Psychiatrická zařízení jsou zahlcena uživateli umělé inteligence
Rozpad reality je stále v plenkách, ale všechny známky křičí o „nebezpečí před námi“. Jak uvádí tento článek: „Jsme svědky vzniku zcela nové hranice krizí duševního zdraví.“ Vskutku. Manželství se rozpadají. Lidé jsou doháněni k sebevraždě. Jiní zaplňují lůžka psychiatrických zařízení. Co se to děje? Je to psychóza vyvolaná umělou inteligencí a může vás zasáhnout zcela nečekaně – jako by vám do ní hozeli cihlu. ⁃ Patrick Wood, editor.
Zatímco mnoho pracujících lidí se oprávněně obává, že jim umělá inteligence vezme práci a vyhodí je na ulici, dalším důsledkem revoluce umělé inteligence je zaplňování volných míst v zařízeních duševního zdraví.
Masové zavádění chatbotů s rozsáhlými jazykovými modely (LLM) vede k velkému počtu krizí duševního zdraví souvisejících s používáním umělé inteligence, kdy lidé sdílejí bludné nebo paranoidní myšlenky s produktem, jako je ChatGPT – a bot místo toho, aby uživateli doporučil vyhledat pomoc, často tyto nevyvážené myšlenky posiluje, což může vést k nekonečným chatovacím sezením, která končí tragicky nebo dokonce fatálně.
Nové zprávy z Wiredu , které čerpají z více než tuctu psychiatrů a výzkumníků, to označují za „nový trend“, který roste v našem světě řízeném umělou inteligencí. Keith Sakata, psychiatr z UCSF, publikaci řekl, že jen letos napočítal tucet hospitalizací, v nichž umělá inteligence hrála „významnou roli“ v „psychotických epizodách“.
Sakata je jedním z mnoha odborníků na duševní zdraví, kteří se nacházejí v první linii této naléhavé a málo pochopené zdravotní krize vyplývající ze vztahů s umělou inteligencí – poruchou, která stále nemá formální diagnózu, ale psychiatři ji již nazývají „psychózou umělé inteligence“ nebo „syndromem bludů umělé inteligence“.
Hamilton Morrin, psychiatrický výzkumník na King’s College London, řekl listu Guardian , že ho inspirovalo setkání s pacienty, u kterých se při používání chatbotů LLM rozvinula psychotická nemoc.
Další odborník na duševní zdraví napsal sloupek do Wall Street Journal poté, co si pacienti začali bez vyžádání brát své chatboty s umělou inteligencí na terapeutická sezení.
Přestože se dosud nepokusilo o důkladnou případovou studii dopadu umělé inteligence na využívání psychiatrických služeb pacienty, to, co zatím víme, nevypadá dobře.
Nedávný předběžný průzkum o psychiatrických dopadech souvisejících s umělou inteligencí, který provedl výzkumník v oblasti sociální práce Keith Robert Head, poukazuje na hrozící společenskou krizi, kterou vyvolávají „bezprecedentní problémy v oblasti duševního zdraví, na jejichž řešení nejsou odborníci v oblasti duševního zdraví dostatečně vybaveni“.
„Jsme svědky vzniku zcela nové hranice krizí duševního zdraví, jelikož interakce chatbotů s umělou inteligencí stále častěji vyvolávají zdokumentované případy sebevražd, sebepoškozování a závažného duševního úpadku, jaké v internetovém věku nemají obdoby,“ píše Head.
Příběhy, které se dosud objevily, jsou skutečně pochmurné. I když se vedou debaty o tom, zda chatboti LLM způsobují bludné chování, nebo ho pouze zhoršují, skutečné příběhy vykreslují znepokojivý obraz.
Některé případy se týkají lidí s anamnézou duševních problémů, kteří účinně kontrolovali své příznaky předtím, než do jejich života vstoupil chatbot. V jednom případě byla žena, která léta užívala léky na schizofrenii, pomocí ChatGPT přesvědčena, že diagnóza je lež. Brzy přestala užívat léky a upadla do epizody bludů, ke které by bez chatbota pravděpodobně nedošlo.
Jiné historky naznačují, že i lidé bez anamnézy problémů s duševním zdravím se stávají oběťmi bludů způsobených umělou inteligencí. Nedávno byl dlouholetý investor OpenAI a úspěšný rizikový kapitalista prostřednictvím ChatGPT přesvědčen, že objevil „nevládní systém“, který se na něj osobně zaměřuje – a online pozorovatelé rychle rozpoznali, že jde o výpůjčku z populárních fanfikcí.
Další znepokojivý příběh se týkal otce tří dětí bez anamnézy duševních onemocnění, který upadl do apokalyptického bludu poté, co ho ChatGPT přesvědčil, že objevil nový druh matematiky.
Jedna věc je jistá: záplava nových psychiatrických pacientů je to poslední, co naše již tak rychle se chátrající infrastruktura duševního zdraví potřebuje.
