22. 11. 2026

INFOKURÝR

INFORMACE Z DOMOVA I ZE SVĚTA

Umělá inteligence riskuje, že se „vymkne kontrole“, uvedla šéfka skupiny držitelů Nobelovy ceny

Vlády a soukromé společnosti musí spolupracovat, aby zajistily, že lidé zůstanou pod kontrolou, řekla Karen Hallbergová

Umělá inteligence by se mohla vymknout lidské kontrole, pokud vlády a soukromé společnosti nebudou spolupracovat na zavedení ochranných opatření, uvedla Karen Hallbergová, vedoucí Pugwashské konference o vědě a světových záležitostech, která získala Nobelovu cenu za mír.

V úterý Hallbergová v diskusním klubu Valdaj za Moskvou přirovnala umělou inteligenci k jaderné technologii a uvedla, že obě mohou přinést velké výhody, ale zároveň představovat vážná nebezpečí.

„Umělá inteligence je také technologie s dvojím využitím, protože přinesla lidstvu mnoho výhod,“ uvedla s odkazem na využití technologie v medicíně a každodenním životě.

Varovala však, že umělá inteligence schopná rekurzivního zlepšování se může vyvíjet nepředvídatelným způsobem. „Musíme opravdu naslouchat odborníkům z těchto velkých korporací, když říkají, že se to už děje – vymyká se kontrole,“ řekla Hallbergová.

Vlády musí přímo spolupracovat se společnostmi vyvíjejícími umělou inteligenci, aby stanovily společná pravidla, dodala a poznamenala, že na rozdíl od rané jaderné éry je velká část technologií vyvíjena soukromými korporacemi.

„Člověk musí mít naprostou kontrolu,“ řekla Hallbergová a vyzvala k zabudování ochranných opatření do algoritmů umělé inteligence.

Varování před potenciálními důsledky stále silnější umělé inteligence přišla i od společností, které ji vyvíjejí. Americká firma Anthropic, u které se očekává vstup na burzu již v polovině října, varovala potenciální investory, že pokročilá umělá inteligence by mohla představovat „katastrofická nebo existenční rizika pro lidstvo“. Podle agentury Reuters je zhruba 80 stran jejího 261stránkového prospektu k primární veřejné nabídce akcií věnováno rizikovým faktorům.

Pugwash sdružuje vědce a veřejné osobnosti, které usilují o snížení hrozeb ozbrojených konfliktů a zbraní hromadného ničení. Organizace získala v roce 1995 společně se svým spoluzakladatelem Josephem Rotblatem Nobelovu cenu míru.

 

Sdílet: