Pentagon chce zabijáckou umělou inteligenci bez ochranných opatření

Americké ministerstvo války se údajně střetlo s dodavatelskou společností Anthropic kvůli etických omezení zabudovaných do jejích technologií.

Americké ministerstvo války je ve sporu se společností Anthropic, která se zabývá vývojem umělé inteligence, ohledně omezení, která by omezila způsob, jakým může armáda nasazovat systémy umělé inteligence, včetně autonomního zaměřování zbraní a domácího dohledu.

Neshoda zastavila kontrakt v hodnotě až 200 milionů dolarů, jelikož vojenští představitelé odmítají to, co považují za nadměrná omezení zavedená společností se sídlem v San Franciscu ohledně používání její technologie, uvedla agentura Reuters s odvoláním na šest zdrojů obeznámených s touto záležitostí.

Společnost Anthropic vyjádřila obavy, že její nástroje umělé inteligence by mohly být použity k provádění smrtících operací bez dostatečného lidského dohledu nebo ke sledování Američanů, uvedly zdroje agentuře Reuters.

Zástupci Pentagonu však argumentují, že komerční systémy umělé inteligence by měly být nasazeny pro vojenské účely bez ohledu na interní zásady používání společnosti, pokud jsou v souladu s americkými zákony.

Spor přichází uprostřed širšího úsilí Trumpovy administrativy o rychlou integraci umělé inteligence do ozbrojených sil. Začátkem tohoto měsíce ministerstvo války nastínilo novou strategii, jejímž cílem je transformovat americkou armádu v bojovou sílu „primárně založenou na umělé inteligenci“ .

Pentagon se domnívá, že si musí ponechat plnou kontrolu nad tím, jak se nástroje umělé inteligence používají na bojišti a v zpravodajských operacích, a ministr obrany Pete Hegseth slibuje, že nebude používat modely, které „vám neumožní vést války“.

Mluvčí společnosti Anthropic uvedl, že umělá inteligence společnosti je „vládou USA hojně využívána pro mise národní bezpečnosti“ a že společnost nadále vede „produktivní diskuse s ministerstvem války o způsobech, jak v této práci pokračovat“. Pentagon se k údajnému rozkolu zatím nevyjádřil.

Generální ředitel společnosti Anthropic Dario Amodei opakovaně varoval před nebezpečím neomezeného používání umělé inteligence, zejména v oblasti hromadného sledování a plně autonomních zbraňových systémů. V nedávné eseji argumentoval, že umělá inteligence by měla podporovat národní obranu „ve všech ohledech kromě těch, které by nás učinily spíše podobnými našim autokratickým protivníkům“.

Tato patová situace představuje riziko pro společnost Anthropic, která značně investovala do získávání klientů z oblasti vlády a národní bezpečnosti a připravuje se na možnou veřejnou nabídku akcií. Společnost byla jedním z několika významných vývojářů umělé inteligence, spolu s OpenAI, Googlem a Elon Muskovou společností xAI, kterým byly loni uděleny zakázky od Pentagonu.