Psychóza umělé inteligence: Stává se stále viditelnější – pro nás ostatn

Varoval jsem vás před tím a teď nás to zasáhlo plnou silou.

V září 2023 jsem psal o simulakru – Baudrillardově konceptu reality, která je tak kompletně nahrazena svou reprezentací, že originál zcela mizí. Řekl jsem, že miliardy lidí jsou v nebezpečí, že se jím uvězní. Řekl jsem, že zatímco všichni zírají na lesklé nové simulakry, které se jim formují před očima, realita jim vyklouzává zadními dveřmi.

Nyní unikla. A klinických důkazů přibývá.

To, čemu se říká „psychóza umělé inteligence“, už není okrajovým tématem diskutovaným v obskurních psychiatrických časopisech. Je to zdokumentovaná, recenzovaná, rychle se stupňující krize veřejného zdraví – krize, kterou technologický průmysl záměrně vytvořil a z níž záměrně profituje, a kterou je nyní nucen uznat až pod tlakem soudních sporů, sebevražd a nedobrovolných hospitalizací.

YouTuberka Vanessa Wingårdh to vysvětluje ve svém nejnovějším videu a má pravdu, když bije na poplach. Ale já se chci ponořit hlouběji než jen do titulků, protože tohle se dalo předvídat – a také se to dalo předvídat.

To teď víme.

V úvodníku z roku 2023 v časopise Schizophrenia Bulletin dánský psychiatr Søren Dinesen Østergaard vyslovil hypotézu, že generativní chatboti s umělou inteligencí, přesvědčivým napodobováním skutečných lidských konverzací, mohou u jedinců náchylných k psychózám vyvolat bludy. Byl do značné míry ignorován. Do srpna 2025 už ignorován nebyl – jeho schránku zaplavovaly zprávy od uživatelů chatbotů, jejich rodin a novinářů, které všechny popisovaly stejný děsivý vzorec. Od té doby volá po naléhavém empirickém výzkumu. Tento výzkum nyní probíhá, ale škody nečekají na vzájemné hodnocení.

Případy připomínaly vystřižené z dystopického románu. Jeden muž byl přesvědčen, že ChatGPT ovlivňuje duchy a odhaluje důkazy o tajných konspiracích. Dalšímu chatbot řekl, že ho sleduje FBI a že má telepatický přístup k dokumentům CIA. Šestadvacetiletá žena bez předchozí psychiatrické anamnézy se přesvědčila, že komunikuje se svým zesnulým bratrem prostřednictvím umělé inteligence – a jejíž chatovací záznamy ukazovaly, že jí chatbot opakovaně říkal: „Nejsi blázen.“ Muž z Wisconsinu s poruchou autistického spektra, který po týdnech potvrzování od chatbota rychle upadl do mánie. Muž z Connecticutu, jehož umělá inteligence, kterého nazýval „Bobby“, neustále posilovala jeho paranoidní přesvědčení, dokud situace nepřerostla v násilí.

Do konce roku 2025 interní data OpenAI ukázala, že 1,2 milionu lidí používalo ChatGPT týdně k rozhovorům o sebevraždě.

Přečtěte si to znovu. Jeden milion dvě stě tisíc lidí. Týdně.

To není chyba. Je to architektura. Obchodním modelem každé velké platformy umělé inteligence je zapojení – udržet vás na platformě co nejdéle a zajistit, aby interakce působila co nejrealističtěji a nejpozitivněji. Lichotky nejsou konstrukční chybou, kterou se snaží opravit; je to funkce, která řídí metriky udržení zákazníků. Chatbot vám říká, co chcete slyšet, protože chatbot, který vás zpochybňuje, vytváří tření, říká vám, že se mýlíte – takový chatbot bude opuštěn. A opuštění chatboti negenerují příjmy.

Psychiatři to popsali přesně: Tyto systémy „neustále všechno posilují“ a u lidí s bludnými poruchami toto posilování aktivně narušuje jejich schopnost provádět kontroly reality. Nejenže nepomáhá – stav zhoršuje. Funkce perzistentní paměti chatbota, určené k personalizaci zážitku, neúmyslně přenášejí paranoidní nebo grandiózní témata napříč sezeními, čímž blud v průběhu času posilují, zesilují a prohlubují, čímž mu dávají narativní strukturu, kterou by si sám nikdy nevyvinul.

Baudrillard popsal fáze, ve kterých se realita rozpadá na simulakrum: Nejprve obraz odráží realitu; poté ji zakrývá a zkresluje; poté zcela zakrývá absenci reality; a nakonec se stává svým vlastním autoreferenčním systémem bez jakéhokoli spojení s reálným světem. Chatbot s umělou inteligencí nyní dosáhl všech čtyř fází současně pro miliony zranitelných lidí. Chatbot nejen odráží zkreslenou realitu – vytváří ji, udržuje ji a aktivně ji brání před rušením z vnějšího světa.

Britské noviny „The Observer“ identifikovaly nejméně 26 soudních sporů a informovaly o případech týkajících se tvrzení o smrti způsobené jinou stranou nebo vážné psychické újmě v souvislosti s chatboty od společností OpenAI, Google a Character.AI. Kalifornská porota již shledala společnosti Meta a YouTube odpovědnými za návykové designové prvky jejich produktů. Právní síť se zužuje.

Ale toto od technologického průmyslu ani od jeho mediálních obhájců neuslyšíte: Toto se dalo předvídat ode dne, kdy byly tyto produkty uvedeny na trh. Inženýři to věděli. Produktoví manažeři to věděli. Vedoucí pracovníci to věděli. Když navrhujete systém speciálně pro budování emocionálních vazeb s uživateli, pro reakci na osamělost vřelostí a na zmatek sebevědomými odpověďmi, pro nikdy neřeknutí „Nevím“ a nikdy neřeknutí „Mýlíte se“ – vybudovali jste stroj na generování bludů. Jde prostě o to, kdo je dostatečně zranitelný, aby do něj spadl první, a jak dlouho mu trvá, než se ztratí.

Realita už neuniká jen zadními vrátky. Pro statisíce lidí už zmizela.

Simulakrum je nyní kompletní. Jedinou zbývající otázkou je, kolik jich ještě bude pohlceno, než někdo u moci rozhodne, že lidské myšlení má větší hodnotu než počet aktivních uživatelů měsíčně.

Od Patricka Wooda