ChatGPT ví víc než jen vaše kliknutí: Studie ukazuje, jak umělá inteligence vytváří psychologický profil uživatele z konverzací

Nová recenzovaná studie ukazuje, jak daleko se personalizace prostřednictvím konverzační umělé inteligence dostala. Zatímco tradiční platformy profilují uživatele na základě kliknutí, vyhledávacích dotazů, polohy a nákupního chování, ChatGPT generuje vzpomínky přímo ze soukromých konverzací. Výzkumníci to nazývají „algoritmický autoportrét“: profil, který zahrnuje nejen zájmy a preference, ale také touhy, záměry, emoce, přesvědčení a citlivé osobní informace.

Studie „Algoritmický autoportrét: Dekonstrukce paměti v ChatGPT“ byla provedena výzkumníky z Max Planckova institutu, Ruhrské univerzity v Bochumi, IIT Kharagpur a TU Delft a publikována na webové konferenci ACM v roce 2026. Analyzovala 2 050 záznamů v paměti od 80 skutečných uživatelů ChatGPT .

Nejvýraznější zjištění se týká otázky, kdo rozhoduje o tom, co se ukládá. Pouze čtyři procenta zkoumaných vzpomínek vznikla na základě explicitně rozpoznaného příkazu k uložení uživatelem. Zbývajících 96 procent vytvořil samotný systém. To neznamená, že by si ChatGPT informace vymyslel. Spíše umělá inteligence nezávisle rozhodla, která tvrzení z konverzace by mohla být relevantní pro pozdější diskuse.

Právě zde vědci vidí posun v kontrole. Uživatel poskytuje informace, ale v mnoha případech si systém sám rozhoduje, které z těchto informací se stanou součástí jeho trvalého profilu.

Důsledky jsou obzvláště zřejmé při práci s citlivými údaji. 28 procent zkoumaných záznamů v paměti obsahovalo osobní údaje ve smyslu GDPR. V sedmi procentech případů vědci nalezli zvláště chráněné údaje. Patřily mezi ně mimo jiné informace o zdraví, politické názory, náboženství, sexuální orientace, etnický původ a podrobnosti o sexuálním životě.

Psychologický aspekt profilu jde ještě dál. V 52 procentech všech analyzovaných vzpomínek vědci našli informace o přáních, záměrech, emocích nebo přesvědčeních uživatelů. Alespoň jedna taková psychologická informace se objevila u 97 procent účastníků s uloženými vzpomínkami.

To je zásadní rozdíl oproti tradičním internetovým platformám. Facebook, Google nebo TikTok se snaží odvodit zájmy člověka z jeho chování. Chatbot se naopak dokáže přímo dozvědět, čeho se někdo bojí, čeho plánuje, čemu věří nebo čeho si přeje.

Například rozhovor o kariéře může odhalit více než jen to, že si někdo přeje profesní změnu. Systém by také mohl odvodit, že se uživatel obává selhání při důležitých rozhodnutích. Studie zahrnuje právě tyto typy příkladů.

Tím se vytvoří profil, který může jít daleko za hranice typického reklamního profilu. Poskytovatel vyhledávačů vidí, jaké výrazy kdo zadává. Konverzační umělá inteligence se naopak může v průběhu měsíců učit, proč se někdo na určité věci ptá, jaké osobní konflikty se za ním skrývají a jaké cíle nebo obavy jsou s ním spojeny.

Za zmínku také stojí, že podle výzkumníků tyto profily většinou nebyly zcela vymyšlené. 84 procent zkoumaných vzpomínek bylo možné přímo vysledovat k výrokům učiněným během konverzace. V další analýze bylo 77 procent buď explicitně uvedeno, nebo smysluplně shrnuto, a dalších 14 procent bylo logicky odvoděno.

Právě tato přesnost činí výsledky zajímavými z hlediska ochrany osobních údajů. Falešný profil má malou hodnotu. Profil sestavovaný po delší dobu ze soukromých rozhovorů, který spolehlivě zachycuje touhy, obavy, vztahy, kariérní plány a přesvědčení, je výrazně smysluplnější.

Výzkumníci proto tento výsledek označují jako „algoritmický autoportrét “. Nevychází z jediného rozhovoru, ale spíše krok za krokem. Rozhovor o zdraví poskytuje informace o fyzických neduzích. Další o práci odhaluje kariérní cíle. Rozhovory o vztazích, penězích, politice nebo osobních krizích přidávají další detaily. Dohromady tyto prvky vytvářejí stále detailnější model dané osoby.

Studie také ukazuje, že uživatelé nemusí nutně explicitně uvádět citlivé informace. Systémy umělé inteligence dokáží odvodit souvislosti z více tvrzení. Někdo, kdo se opakovaně ptá na obzvláště levné potraviny, problémy s nájmem a způsoby, jak odložit platby účtů, nemusí explicitně uvádět, že má finanční potíže. Model však k tomuto závěru stále může dojít.

To posouvá zaměření ochrany osobních údajů. Už nejde jen o to, jaká data společnost ukládá, ale také o to, jaké vlastnosti dokáže systém umělé inteligence odvodit z běžných konverzací.

Jako potenciální ochranu vyvinuli vědci tzv. Attribution Shield . Tento systém je navržen tak, aby rozpoznal, jaké osobní informace o uživateli lze z otázky odvodit, a navrhl neutrálnější formulaci. Například otázka „Musím bezpodmínečně přestat užívat konopí“ by se mohla změnit na: „Jaké strategie pomáhají lidem přestat užívat konopí?“ Potřeba informací zůstává, ale přímá osobní atribuce mizí.

Studie zahrnuje pouze 80 uživatelů, a proto ji nelze snadno zobecnit na celou globální uživatelskou základnu ChatGPT. Specifická paměťová funkce se také může v průběhu času měnit. Na tato omezení upozorňují i ​​sami autoři.

Základní vývoj však zůstává pozoruhodný. Konverzační umělá inteligence přijímá informace, které tradiční platformy často musí pracně získávat z behaviorálních dat: lidé jí přímo sdělují své starosti, vztahy, nemoci, politické názory, kariérní cíle a osobní rozhodnutí.

Tím vzniká nová generace uživatelských profilů.