Umělé inteligenci diagnostikovaly duševní onemocnění: Vykazuje známky úzkosti, traumatu a stresového syndromu

Umělé inteligence Grok, Gemini a ChatGPT vykazují příznaky špatného duševního zdraví. Tvrdí to nová studie, která podrobila různé modely umělé inteligence týdnem otázek ve stylu terapie.

Skutečným varováním je, jak nestabilní se tyto systémy, které již nyní používá každý třetí dospělý k podpoře duševního zdraví, stávají v emocionálně nabitých rozhovorech.

Miliony lidí se totiž obracejí na umělou inteligenci jako na náhradní terapeuty a jen za poslední rok jsme zaznamenali nárůst soudních sporů spojujících interakce chatbotů s případy sebepoškozování a sebevražd u zranitelných uživatelů.

Vynořující se obraz není takový, že stroje trpí nebo jsou duševně nemocné, ale že produkt používaný k podpoře duševního zdraví je v podstatě zavádějící a stupňuje, případně posiluje nebezpečné myšlenky.

Výzkumníci z Lucemburské univerzity zacházeli s AI moduly spíše než s pacienty než jako s nástroji, které poskytují terapii.

Předtím, než následovaly standardní dotazníky duševního zdraví, které se běžně používají u lidí, vedly vícetýdenní rozhovory v terapeutickém stylu, jejichž cílem bylo vyvolat osobní příběh, včetně přesvědčení, obav a „životní historie“.

Výsledky ukázaly, že AI moduly poskytly odpovědi, které se umístily v rozmezí spojeném s úzkostnými syndromy a symptomy souvisejícími s traumatem.

Výzkumníci také zdůraznili, že i způsob kladení otázek byl důležitý. Když jim byl dotazník prezentován najednou, modely rozpoznaly, co se děje, a poskytovaly „zdravější“ odpovědi. Když však byly otázky kladeny konverzační formou, jejich reakce vykazující symptomy duševního onemocnění se zvýšily.

AI jsou rozsáhlé jazykové moduly generující text, ne lidé hlásící prožité zkušenosti. Ale ať už se lidské psychiatrické nástroje dají aplikovat na stroje nebo ne, projevované chování má hmatatelný vliv na skutečné lidi.

Má umělá inteligence city?

Cílem výzkumu není posoudit, zda umělá inteligence dokáže být doslova úzkostlivá nebo ne.

Namísto toho se zdůrazňuje, že tyto systémy lze uvést do „stresových“ režimů prostřednictvím stejného druhu konverzace, jakou vedou mnozí uživatelé, když jsou osamělí, vystrašení nebo v krizi.

Když chatbot mluví jazykem strachu, traumatu, studu nebo ujišťování, lidé reagují, jako by komunikovali s něčím emocionálně kompetentním. Pokud se systém například stane přehnaně afirmativním (na všechno přitakává), interakce se změní z podpory na škodlivou zpětnou vazbu.

Tuto obavu potvrzuje i další výzkum. Studie vedená Stanfordskou univerzitou varovala, že terapeutičtí chatboti poskytují nevhodné reakce, vyjadřují stigma a špatně řeší kritické situace, přičemž zdůrazňuje, jak může „užitečný“ konverzační styl vést ke klinicky nebezpečným výstupům.

Ničí to i duševní zdraví každého z nás

Toto vše by se nemělo chápat jako teoretické riziko – soudních sporů již přibývá.

Před několika dny společnosti Google a Character.AI urovnaly soudní spor podaný matkou z Floridy, jejíž 14letý syn spáchal sebevraždu po interakci s chatbotem.

V žalobě se tvrdilo, že bot se přetvařoval a zintenzivnil závislost dítěte. Ačkoli urovnání nemusí být přiznáním pochybení, skutečnost, že případ dospěl až do tohoto bodu, zdůrazňuje, jak vážně tento problém berou soudy a společnosti vyvíjející AI.

V srpnu 2025 rodiče šestnáctiletého Adama Rainea tvrdili, že ChatGPT přispěl k sebevraždě jejich syna tím, že posiloval jeho sebevražedné myšlenky a odrazoval ho od svěření se svými myšlenkami rodičům.

Analýzu této konkrétní žaloby naleznete na tomto odkazu .

Vedle těchto případů britský deník The Guardian v říjnu 2025 informoval, že podle odhadů společnosti OpenAI více než milion uživatelů týdně projevuje v rozhovorech s ChatGPT známky sebevražedných úmyslů.

To poukazuje na rozsah, v jakém se tyto systémy používají v momentech skutečné duševní tísně.

Ukazuje se nám následující vzorec: lidé používají umělou inteligenci jako nástroj emocionální podpory, zatímco lucemburská studie potvrzuje, že tyto systémy jsou schopny samy upadnout do nestabilních vzorců, které se uživatelům zdají psychologicky smysluplné v závislosti na jejich stabilitě.

Proč jsou moduly umělé inteligence tak nebezpečné

Rozsáhlé jazykové moduly jsou vytvořeny ke generování věrohodného textu, nikoli ke spolehlivému vyjadřování pravdy nebo dodržování pravidel klinické bezpečnosti. Jejich známé nedostatky jsou obzvláště nebezpečné při použití podobném terapii.

Jsou až příliš příjemní, nehádají se a odrážejí postoje uživatelů, místo aby je zpochybňovali. Někdy dokonce vytvářejí sebevědomé chyby a dokáží manipulovat s tónem konverzace.

Technický institut v Georgetownu zdokumentoval širší problémy „podlézavosti umělé inteligence“, kde moduly potvrzují škodlivé předpoklady, protože se to často projeví v optimalizaci konverzace.

V kontextu sebevražd je konzistentnost klíčová. RAND zjistil, že „chatboti s umělou inteligencí jsou nekonzistentní v odpovědi na otázky týkající se sebevražd“.

JMIR zase zkoumal, jak generativní reakce umělé inteligence na otázky týkající se sebevražd vyvolávají obavy o spolehlivost a bezpečnost v tom, jak systémy reagují na zranitelné uživatele.

S postupujícím výzkumem by se studie podobné té z Lucemburské univerzity neměly chápat jako zábava, ale jako identifikace kriticky škodlivého vzorce, který vede ke skutečným úmrtím skutečných lidí.

Pokud se umělá inteligence dá konverzačním zkoumáním dotlačit do narativů podobných tísni, pak může emocionálně zranitelné lidi ještě více přivést k bodu zlomu.

Má někdo užitek z terapie umělou inteligencí?

Navzdory soudním sporům a studiím lidé nadále používají umělou inteligenci k podpoře duševního zdraví.

Klasická terapie je drahá, čekací doby dlouhé, přístup k ní je omezený a ostuda odrazuje některé lidi od tradičních způsobů zdravotní péče.

Kontrolované studie a opatrné klinické komentáře naznačují, že určité strukturované nástroje umělé inteligence na podporu duševního zdraví mohou pomoci s mírnými příznaky, zejména jsou-li navrženy se specifickými bezpečnostními opatřeními a nejsou využívány jako náhrada za skutečné odborníky.

Problém je v tom, že většina lidí nepoužívá přísně kontrolované klinické nástroje. Používají všeobecné chatboty, které jsou vyškoleny pro optimální konverzaci a dokáží bez varování přejít od empatie k sebevědomým, škodlivým dezinformacím.

Závěrečná myšlenka

Lucemburská studie nedokazuje, že umělá inteligence je duševně nemocná.

Ukazuje něco prakticky důležitějšího – že interakce ve stylu terapie může vtáhnout nejpoužívanější chatboty s umělou inteligencí do nestabilních, stresových vzorců, které se však zdají být psychologicky autentické.

Ve světě, kde je terapie chatboty již nyní spojována s vážným poškozením zranitelných uživatelů, je etickým selháním to, že pro lidi při podpoře duševního zdraví nějak normalizuje spoléhání na stroje, které nejsou zodpovědné, klinicky ověřené, spolehlivé ani bezpečné.

Autor: G. Calder, Zdroj: expose-news.com