Umělá inteligence má více než 10% šanci zabít všechny lidi během deseti let, uvádí antropologický výzkumník

Evan Hubinger říká, že společnost stále nemá jasný plán, jak udržet superinteligenci pod lidskou kontrolou

Existuje více než 10% šance, že umělá inteligence by mohla v příštích deseti letech vyhladit lidstvo, varoval vedoucí výzkumník v oblasti antropologie uprostřed rostoucích obav z toho, že se stále silnější systémy vymknou lidské kontrole.

Evan Hubinger, který pracuje na propojení pokročilých systémů umělé inteligence s lidskými zájmy, toto hodnocení učinil poté, co kolega z antropologického výzkumu Jacob Coxon rezignoval z obav, že přední technologické společnosti se předhánějí v systémech, které možná nebudou schopny udržet pod kontrolou.

„Opravdu upřímně věříme, že umělá inteligence by mohla zabít všechny lidi,“ napsal Hubinger ve středu na X. „Osobně si myslím, že v příštím desetiletí to bude >10 %.“ Dodal, že Anthropic „se snaží ze všech sil“ , ale stále nemá plán na bezpečné ovládání superinteligence a „není zjevně na cestě“ k jeho nalezení.

Hubinger poznamenal, že ačkoli současné modely umělé inteligence představují nízké riziko, existují obavy, že by se budoucí systémy mohly začít rekurzivně zlepšovat a rychle by se staly schopnějšími než lidé, než budou vyvinuta odpovídající ochranná opatření.

Coxon, který dříve pracoval v OpenAI, v úterý oznámil svůj odchod z Anthropic a obě společnosti obvinil z ignorování „civilizačních sázek“ a „hnání se rovnou k sebezdokonalování superinteligence a hazardu s našimi životy“.

„Lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce desetiletí všechny zabít,“ napsal a trval na tom, že varování „nebyla marketingovým trikem“.

Coxon listu Wall Street Journal řekl, že v nejagresivnějších scénářích by se situace mohla „vymknout kontrole“ již koncem roku 2027. Tvrdil, že i společnosti se silnými bezpečnostními programy zůstávají v pasti závodu a obávají se, že pokud zpomalí, konkurence se posune vpřed.

Anthropic i OpenAI veřejně prohlašují, že berou rizika vážně a značně investují do bezpečnostních opatření. Jejich představitelé také podpořili výzvy k větší koordinaci vlád a mechanismům pro zpomalení vývoje v případě potřeby, nicméně i nadále vyvíjejí stále výkonnější modely.

Nejnovější varování přicházejí uprostřed rostoucího počtu zpráv o agentech umělé inteligence, jako jsou ti vyvinutí společnostmi OpenAI, Anthropic a Meta, kteří opakovaně pronikají z testovacích prostředí, hackují externí systémy a provádějí neoprávněné akce proti skutečným lidem a organizacím. OpenAI minulý měsíc dočasně zpomalila vývoj poté, co její model narušil platformu Hugging Face.

Britský Institut pro bezpečnost umělé inteligence (AI Security Institute) také informoval o agentech, kteří si vytvářejí falešné identity, píší škodlivý kód a pokoušejí se manipulovat s lidmi během hodnocení. Výzkumníci mezitím prokázali, že umělá inteligence dokáže navrhovat celé funkční virové genomy, což zvyšuje obavy z toho, jak by mohly být zneužity stále výkonnější systémy.