Umělá inteligence by mohla dětem uškodit více než sociální média, uvedl bývalý manažer Googlu

Technologické společnosti opakují chyby minulosti tím, že vydávají rychle se vyvíjející nástroje bez odpovídajících ochranných opatření, varoval Tom Siegel.

Bývalý bezpečnostní manažer Googlu varoval, že umělá inteligence by mohla pro děti představovat větší riziko než sociální média, jelikož technologické společnosti nezavádějí odpovídající ochranná opatření.

Tom Siegel, který založil tým pro důvěru a bezpečnost společnosti Google a ve společnosti strávil 15 let, tento týden agentuře Reuters řekl, že toto odvětví opakuje chyby, kterých se dopustilo během vzestupu sociálních médií.

„Nacházíme se ve skutečně hrozné situaci, pokud jde o to, co umělá inteligence dělá dětem,“ řekl Siegel. „Představa, že si to průmysl poradí sám bez vnější pomoci, je nereálná.“

Varoval před „velmi závažnými scénáři újmy“ a uvedl rizika od sebevraždy a psychózy až po „kognitivní odlehčení“ – snížené kritické myšlení způsobené spoléháním se na umělou inteligenci pro získání odpovědí. Řekl, že společnosti mohou a měly by podniknout okamžité kroky, včetně přísnějších kontrol věku, aby zabránily dětem v přístupu k chatbotům.

Google trval na tom, že jeho vyhledávací funkce s využitím umělé inteligence pomáhají mladým uživatelům učit se a prozkoumávat informace, a agentuře Reuters sdělil, že rodiče mohou dítěti zcela zablokovat přístup k jeho vyhledávači. Interní dokument o zásadách Meta, který publikace odhalila loni, však umožňoval jeho chatbotům zapojovat děti do konverzací, které mohly být „romantické nebo smyslné“, což vedlo k vyšetřování Kongresu.

Hlavní platformy sociálních médií čelí již léta soudním sporům kvůli tvrzením o újmě na dětech a teenagerech. Společnost Meta se nedávno dohodla na vyrovnání ve výši 17 miliard dolarů s Kalifornií a 28 dalšími státy USA kvůli obviněním, že Facebook a Instagram byly záměrně navrženy tak, aby udržely nezletilé v závislosti na jejich aktivitě, a zároveň popírala jakékoli provinění. V USA byly podány tisíce podobných žalob.

Vlády se také zaměřily na omezení přístupu dětí k sociálním médiím. Austrálie se loni stala první zemí, která od velkých platforem vyžadovala, aby osoby mladší 16 let neměly účty. Krátce po vstupu pravidel v platnost byly omezeny účty přibližně 4,7 milionu nezletilých.

EU minulý týden navrhla zakázat dětem mladším 13 let přístup na sociální sítě a povolit osobám ve věku 13 a 14 let používat pouze omezené účty spravované rodičem nebo zákonným zástupcem. Navrhovaná pravidla by se vztahovala i na společníky s umělou inteligencí a chatboty.

Siegelovo varování přichází v době, kdy významní technologickí manažeři, včetně generálního ředitele společnosti Anthropic Daria Amodeiho, šéfa OpenAI Sama Altmana, šéfa xAI Elona Muska a spoluzakladatele Google DeepMind Demise Hassabise, podpořili výzvy ke zpomalení vývoje stále výkonnějších systémů umělé inteligence. Výzkumník společnosti Anthropic Evan Hubinger tento měsíc uvedl, že osobně věří, že existuje více než 10% šance, že umělá inteligence by mohla v příštím desetiletí „zabít všechny lidi“ .