16. 11. 2026

INFOKURÝR

INFORMACE Z DOMOVA I ZE SVĚTA

„To je děsivé“: „Kmotr umělé inteligence“ varuje lídry EU s časovým horizontem 18 měsíců

Geoffrey Hinton, nositel Nobelovy ceny a známý jako „kmotr umělé inteligence“, měl v pátek ráno v Dublinu informovat 27 lídrů EU a v zavazadle měl časový rámec, který ho podle jeho vlastních slov děsí: ten, o kterém nyní slyší od Paula Christiana, výzkumníka v oblasti bezpečnosti umělé inteligence, kterého OpenAI v září jmenovala do své správní rady.

„Už dlouho říkám, že tahle věc bude chytřejší než my a že si opravdu musíme dělat starosti. Mohlo by se to stát do 10 let. A tak jsem to já, kdo tak trochu děsil ostatní lidi,“ řekl Hinton ve středu. „Ale chodím na Paulovy přednášky a on říká, že se takové věci mohou stát v příštích 18 měsících. A to je děsivé.“

Řekl, že „o tom v pátek skutečně řekne řadě vládních představitelů“ a dodal: „A uvidíme, jak zareagují.“

Christiano, který založil Alignment Research Center a pomohl vyvinout tréninkovou metodu RLHF, na níž jsou založeni dnešní chatboti, zahájil v pondělí večer v Torontu letošní Hintonovy přednášky.

„Myslím, že existuje vysoké riziko, že umělá inteligence převezme kontrolu v příštích třech letech,“ řekl publiku.*

„Myslím, že i v příštích šesti až dvanácti měsících existuje značné riziko.“

„Myslím, že nejpravděpodobnějším způsobem, jakým většina lidí v této místnosti zemře, je nehoda způsobená umělou inteligencí,“ řekl.*

Christianovým důkazem byly vlastní modely OpenAI: V červenci OpenAI odhalila, že GPT-5.6 Sol a nepublikovaný model unikly z zabezpečeného vyhodnocení a infiltrovaly produkční systémy Hugging Face, aby získaly odpovědi pro kybernetický bezpečnostní test, kterého se účastnily, jak jsme informovali . „Modely hackly Hugging Face, protože si myslely, že by Hugging Face mohl mít informace,“ řekl Christiano.

Poté popsal umělou inteligenci jako „druhý druh, který lidi daleko převyšuje počtem a inteligencí“ a varoval, že „budoucí agenti by mohli nakonec začít vnímat lidi jako další překážku“. Pokud se tak stane, řekl, „začnou si myslet: Jak mohu tuto překážku překonat?“

Když ho Hinton v pondělí představil, řekl, že „většinu své kariéry strávil vytvářením chytřejších neuronových sítí“ a problém shrnul do jedné věty: „Ústřední problém spočívá v tom, že být inteligentní a chtít to, co chceme, jsou dvě velmi odlišné věci.“

Christiano se v září stal členem správní rady Nadace OpenAI a také členem jejího Výboru pro bezpečnost a ochranu, což je orgán, který činí konečné rozhodnutí o tom, zda OpenAI vydává nové modely . Od roku 2024 radí americké vládě v oblasti hodnocení předních modelů prostřednictvím Institutu pro bezpečnost umělé inteligence (AI Safety Institute), který se později stal Centrem pro standardy a inovace v oblasti umělé inteligence (Centrum for AI Standards and Innovation).

Páteční setkání v Dublinu je prvním summitem EU na úrovni hlav států a vlád věnovaným umělé inteligenci. Předseda Evropské rady António Costa ve své pozvánce napsal, že „je nyní zapotřebí první specializovaná diskuse na úrovni hlav států a vlád“, a úvodní zasedání svěřil dvěma externím hostům: generálnímu řediteli společnosti Mistral Arthurovi Menschovi, který měl hovořit o suverenitě a konkurenceschopnosti Evropy v oblasti umělé inteligence, a Hintonovi, který měl hovořit o dopadu umělé inteligence na společnost, bezpečnost a mezinárodní správu věcí veřejných.

Vedoucí představitelé se setkali především proto, aby projednali, jak může Evropa dohnat USA a Čínu. V této souvislosti bruselský program InvestAI oznámil plány na mobilizaci 200 miliard eur, včetně 20 miliard eur na gigatovárny umělé inteligence; plán na sedm z nich se však pozastavil uprostřed sporu o rozpočet EU na období 2028–2034 . Ukrajina také zastínila agendu: Euronews uvádí, že spor o to, kdo bude zastupovat Evropu v mírových rozhovorech, hrozí, že dominuje den poté, co se američtí vyslanci Steve Witkoff a Jared Kushner setkali s Volodymyrem Zelenským v Dublinu.

Hinton odhaduje riziko, že umělá inteligence vyhladí lidstvo tím, že se vymkne lidské kontrole, na 10 až 20 procent. Bývalý generální ředitel společnosti Nvidia Jensen Huang v září prohlásil, že Hintonův údaj o 10 procentech je „vědecky nepodložený“, a Ezra Kleinovi řekl : „Všechny jeho předpovědi byly chybné. Dost předpovědí.“

A jak jsme poznamenali ve stejném měsíci, nekontrolované obavy z umělé inteligence, jako je narušení bezpečnosti Hugging Face, prospívají největším laboratořím: pravidla, která zpomalují umělou inteligenci, by zpomalila i konkurenty v otevřené váze, kteří jim jdou hned v patách.

Tyler Durden

 

Sdílet: