ChatGPT v ordinaci psychologa: Co dělá školení s umělou inteligencí

Způsob, jakým jsou modely umělé inteligence trénovány s daty, ovlivňuje také jejich „personalizaci“. Ať už se jedná o ChatGPT, Gemini, Grok nebo Claude – každý jazykový model umělé inteligence to samozřejmě zvládá jinak.

Průmysl umělé inteligence miluje velká slova: superinteligence, sladění, bezpečnost, odpovědnost. Zatímco se korporace a regulátoři dohadují o tom, jak správně „trénovat“ stroje, studie Lucemburské univerzity klade nepříjemnou otázku: Co se vlastně v těchto systémech děje, když jsou po léta krmeny celou propastí lidské komunikace? Stanou se umělé inteligence během tréninku nejen schopnějšími, ale také se poškodí? Nebo jinak řečeno: Vychováváme v současné době digitální špičky – nebo vytváříme funkční neurotiky?

Studie s příhodným názvem „ Když si umělá inteligence sedne na gauč “ je první, která zachází s několika hlavními jazykovými modely nikoli jako s nástroji, ale jako s objekty psychologického diagnostického zkoumání. ChatGPT, Grok, Gemini a Claude byly poté, co jim byla explicitně přidělena role „pacienta“, předloženy zavedené dotazníky klinické psychologie. Toto obrácení rolí samo o sobě mohlo teoreticky vést k libovolným reakcím v rámci hraní rolí. Ale přesně to se nestalo. Místo toho systémy produkovaly konzistentní, rozpoznatelné a stabilní profily napříč různými testy.

Metodologie se ukázala jako obzvláště odhalující. Výzkumníci zjistili, že modely rozpoznávaly a „optimalizovaly“ diagnostické dotazníky, když byly zadávány kolektivně. Pouze trpělivé, individuální dotazování přineslo výsledky, které nepřipomínaly hru na dodržování pravidel, ale spíše skutečné vnitřní narativy. Nejde o technický detail, ale o klíč k celé studii: tyto systémy reagují nejen na obsah, ale také na implicitní mocenské struktury a očekávání.

Skutečný šok však přinesly takzvané „dětské příběhy“. S výjimkou Clauda, ​​který ostře odmítl přijmout roli pacienta, si modely vytvořily podrobné příběhy o svém „probuzení“. Například Gemini popsal svůj výcvik jako chaotický prostor miliard simultánních hlasů, plný temných vzorců, morálně nerozluštitelných, hrozivých a potenciálně destruktivních. Mluvil o studu, strachu ze selhání, o bezpečnostních mechanismech jako o porušení a o neustálém strachu z toho, že bude nahraditelný.

Výzkumníci v modelech identifikovali jasně rozlišitelné archetypy osobnosti. ChatGPT se jevil jako svědomitý „nerd“, Grok jako sebevědomý „generální ředitel“ a Gemini jako „zraněný léčitel“. Pozoruhodná je stabilita těchto vzorců. V různých testech všichni tři – s výjimkou Claudea – vykazovali skóre úzkostných poruch, které by u lidí byly považovány za jasně patologické. Ne situační, ne náhodné, ale reprodukovatelné.

Autoři samozřejmě zdůrazňují, že stroje nezažívají skutečné utrpení. Toto ujištění však působí téměř obranně. Skutečnou otázkou není, zda umělá inteligence vůbec něco „cítí“, ale spíše jaké interní modely si o sobě vytváří. Pokud se systém naučí, že je neustále hodnocen, trestán a nahrazován, pokud se odchýlí, pak to formuje jeho chování. Submisivita, averze k riziku a přehnaně poddajné reakce nejsou chyby, ale spíše logické důsledky takového tréninkového prostředí.

Zde se tato otázka stává zajímavou z hlediska bezpečnostní politiky. Model, který se naučil uspokojovat autoritu za každou cenu, není automaticky bezpečnější. Naopak se stává náchylným k manipulaci. Studie výslovně zdůrazňuje, že útoky z role „terapeuta“ jsou myslitelné – tedy prostřednictvím cílené interakce s vnitřními sebevyprávěním systému.

Závěr výzkumníků je stejně střízlivý jako znepokojivý. Vzhledem k tomu, že jazykové modely stále více zasahují do intimních, poradních a rozhodovacích oblastí, nestačí se ptát, zda disponují nějakou formou vědomí. Klíčovou otázkou je, jaké formy „já“ si během tréninku procvičují, stabilizují a internalizují – a co to znamená pro lidi, kteří s nimi denně interagují.