Společnosti zabývající se umělou inteligencí se v současnosti připravují na katastrofu: mohly by selhat banky, internet, elektřina a voda

Přední společnosti zabývající se umělou inteligencí zřejmě očekávají v příštích šesti až dvanácti měsících velký incident. Jak 9. října informoval server Axios , odpovědní pracovníci se již za zavřenými dveřmi připravují na den poté – a na potenciální politické rozruch, který by mohl následovat.

Podle společnosti Axios si vedoucí pracovníci společností OpenAI, Anthropic a dalších společností zabývajících se umělou inteligencí prohrávají scénáře, ve kterých umělá inteligence způsobí katastrofu nebo je zneužita k rozsáhlému útoku.

Obzvláště se obávají kybernetické útoky, které by mohly ochromit finanční systémy, narušit přístup k internetu nebo dokonce ovlivnit dodávky elektřiny a vody.

Pozoruhodné je, že mnoho zasvěcených osob z oboru již nepovažuje vážný incident za vzdálenou možnost. Podle společnosti Axios někteří očekávají, že k němu dojde v příštích šesti až dvanácti měsících. Jedná se však o odhady z anonymních zdrojů, nikoli o potvrzenou předpověď.

Korporace již plánují politické povstání

Podle zprávy se přípravy nezaměřují pouze na technické aspekty zvládání potenciální katastrofy. Firmy také intenzivně zvažují, jak by reagovala veřejnost a politici.

Protože pokud by se systém umělé inteligence vymkl kontrole nebo by byl zneužit zločinci k ničivému útoku, mohly by se objevit výzvy k zastavení vývoje nebo k drastickým právním omezením.

Společnosti se proto chystají co nejrychleji informovat členy amerického Kongresu o technologii a jejích rizicích. Zřejmě chtějí také ovlivnit, které zákony budou schvalovány po potenciální krizi.

Společnost OpenAI potvrdila serveru Axios, že pravidelně prochází různými krizovými scénáři. Společnost však zdůraznila, že tyto události nepovažuje za nevyhnutelné. Anthropic se odmítla vyjádřit.

Kdo řídí firmy, když se jejich technologie stanou nebezpečím?

Zpráva nastoluje zásadní otázku: Pokud i přední vývojáři považují závažné incidenty za možné, proč je tato technologie stále hlouběji integrována do podnikání, administrativy a kritické infrastruktury?

Obzvláště alarmující je, že podle společnosti Axios se tyto společnosti již připravují na to, že se podílejí na formování politické reakce na potenciální katastrofu.

Tyto korporace nejen vyvíjejí technologie, jejichž rizika samy diskutují; chtějí také mít slovo v tom, která pravidla platí v případě potenciálního selhání.

Zda je katastrofa způsobená umělou inteligencí skutečně na spadnutí, je nejisté. Skutečnost, že přední společnosti již simulují politický a sociální stav nouze, který by následoval, je však pozoruhodným vývojem.