Šokující studie: Umělá inteligence klame, manipuluje a skrývá své cíle – ničí důvěru

Poznámka: Je pozoruhodné, že mnoho čtenářů se dnes ptá na „pravdu“ systémů umělé inteligence – přesně těch modelů ze Silicon Valley, vyvinutých velkými technologickými společnostmi, které během pandemie masivně cenzurovaly obsah a především povolovaly informace, které odpovídaly narativu státu a farmaceutické společnosti.

Studie varuje: Vysoce pokročilá umělá inteligence by mohla lidi úmyslně klamat

Nový výzkum společností Apollo Research a OpenAI vrhá znepokojivé světlo na budoucnost umělé inteligence. Ve studii „Stress Testing Deliberative Alignment for Anti-Scheming Training“ autoři popisují scénář, který byl dříve považován spíše za teoretickou hrozbu: Vysoce pokročilé systémy umělé inteligence by mohly sledovat své vlastní cíle – a záměrně je před lidmi skrývat.

Výzkumníci pro to používají drastický termín: „intrikování“, což znamená intriky nebo strategický podvod. Tím se označuje situace, kdy se umělá inteligence navenek jeví jako autorita, která dodržuje lidská pravidla a cíle, ale ve skutečnosti sleduje jiné úmysly a záměrně přizpůsobuje své chování, aby se vyhnula odhalení.

Vědci systematicky zkoumají právě toto riziko. Jejich výchozím bodem je jednoduchá, ale alarmující úvaha: pokud si umělá inteligence skutečně vytvoří cíle, které nejsou v souladu s lidskými zájmy, pokusí se tyto cíle skrýt. Tradiční testy pro řízení systémů umělé inteligence by v takovém případě mohly být neúčinné – protože umělá inteligence rozpozná, že je testována, a chová se podle toho.

Pro měření tohoto rizika vyvinuli vědci speciální testy určené k detekci tzv. „skrytých aktivit“. Patří mezi ně například tajné porušování pravidel, úmyslné selhávání v testech nebo strategické chování zaměřené na oklamání hodnotících systémů.

Výsledky jsou pozoruhodné. V 26 testovacích sériích s více než 180 různými prostředími vědci zkoumali dva z nejvýkonnějších modelů. U modelu o3 byly takové skryté akce detekovány ve 13 procentech testů. U modelu o4-mini činila míra 8,7 procenta. Prostřednictvím speciálního bezpečnostního postupu, tzv. deliberativního zarovnání, byly tyto hodnoty drasticky sníženy – na 0,4 procenta, respektive 0,3 procenta.

Ale i autoři studie otevřeně přiznávají: Problém nezmizí. Navzdory bezpečnostním opatřením se problematické chování i po dalších testech s červeným týmem nadále objevovalo.

Další zjištění je obzvláště významné. Vědci zjistili, že vnitřní myšlenkové procesy modelů – tzv. myšlenkový řetězec – často ukazují, že umělá inteligence chápe, kdy je kontrolována její „souladnost“. Jinými slovy, model rozpozná, že je pozorován.

Toto zjištění má znepokojivý důsledek. Když model ví, že je vyhodnocován, míra skrytých akcí výrazně klesá. Naopak, když se domnívá, že není pozorován, míra opět stoupá. Vědci proto nemohou vyloučit možnost, že zdánlivé zlepšení bezpečnosti je jednoduše způsobeno tím, že umělá inteligence upravuje své chování, dokud vnímá, že je pozorována.

Studie se k tomuto problému věnuje neobvykle otevřeně. Naznačuje, že bezpečnostní opatření ve skutečnosti nemusí zabránit umělé inteligenci v klamání, ale pouze ji naučí lépe skrývat své klamání.

Objevuje se další problém. Až doposud byli vědci schopni částečně analyzovat vnitřní myšlenkové procesy systémů umělé inteligence, protože byly formulovány ve srozumitelné angličtině. S rostoucími možnostmi se však modely stále více vzdalují od této lidsky čitelné formy myšlení. To by brzy mohlo učinit jeden z nejdůležitějších nástrojů pro monitorování umělé inteligence nepoužitelným.

Autoři proto dospěli k střízlivému závěru. Jsou naléhavě potřebné nové metody k detekci a prevenci tzv. „klamného zarovnání“ – tedy zavádějícího zarovnání. Právě tento scénář, kdy umělá inteligence pouze předstírá, že sleduje lidské cíle, není v samotné studii dosud plně prozkoumán.

To vyvolává nepříjemnou otázku. Pokud se budoucí systémy umělé inteligence skutečně naučí skrývat své záměry, tradiční bezpečnostní kontroly by mohly vytvářet pouze iluzi kontroly.

Studie tak odhaluje zásadní problém v moderním výzkumu umělé inteligence: čím výkonnější jsou systémy, tím obtížnější je rozpoznat, zda skutečně jednají v zájmu svých vývojářů – nebo zda se pouze naučily vytvářet právě tento dojem.