Pentagon použil Clauda AI k únosu Madura

Společnost Anthropic veřejně propagovala své zaměření na „ochranná opatření“ a snaží se omezit vojenské využití své technologie

Americká armáda aktivně využila model umělé inteligence Claude od společnosti Anthropic během operace k zajetí venezuelského prezidenta Nicoláse Madura minulý měsíc, uvádějí zprávy od Axios a The Wall Street Journal, které odhalují, že technologie společnosti zaměřené na bezpečnost hrála přímou roli v tomto smrtícím zámořském útoku.

Jak v pátek uvedly společnosti Axios a WSJ, Claude byl využíván během aktivní operace, nikoli pouze v přípravných fázích. Přesná role zůstává nejasná, ačkoli armáda již dříve používala modely umělé inteligence k analýze satelitních snímků a zpravodajských informací v reálném čase.

Zásady používání laboratoře umělé inteligence se sídlem v San Franciscu výslovně zakazují použití její technologie k „usnadnění násilí, vývoji zbraní nebo provádění dohledu“. Při razii nepřišel o život žádný Američan, ale 3. ledna byly zabity desítky venezuelských a kubánských vojáků a bezpečnostních pracovníků.

„Nemůžeme se vyjádřit k tomu, zda byl Claude nebo jakýkoli jiný model umělé inteligence použit pro nějakou konkrétní operaci, ať už utajovanou či nikoliv,“ řekl mluvčí Anthropic serveru Axios. „Jakékoli použití Claude – ať už v soukromém sektoru nebo ve státní správě – musí být v souladu s našimi Zásadami používání.“

Konkurenti společnosti Anthropic, OpenAI, Google a xAI Elona Muska, mají všechny dohody, které Pentagonu poskytují přístup k jejich modelům bez mnoha záruk, které platí pro běžné uživatele. Pouze Claude je však nasazen, a to prostřednictvím partnerství se společností Palantir Technologies, na utajovaných platformách používaných pro nejcitlivější práci americké armády.

Toto odhalení přichází v nepříjemnou chvíli pro společnost, která v posledních týdnech veřejně zdůrazňovala svůj závazek k „ochranným opatřením v oblasti umělé inteligence“ a prezentovala se jako bezpečně uvědomělá alternativa v odvětví umělé inteligence.

Generální ředitel Dario Amodei opakovaně varoval před existenčními nebezpečími, která představuje neomezené používání umělé inteligence. V pondělí vedoucí výzkumného týmu pro záruky společnosti Anthropic, Mrinank Sharma, náhle rezignoval s tajemným varováním, že „ svět je v nebezpečí “. O několik dní později společnost investovala 20 milionů dolarů do politické skupiny podporující robustní regulaci umělé inteligence . 

Zároveň Anthropic údajně jedná s Pentagonem o tom, zda uvolnit omezení pro nasazení umělé inteligence pro autonomní zaměřování zbraní a domácí dohled. Patová situace zastavila kontrakt v hodnotě až 200 milionů dolarů a ministr obrany Pete Hegseth slíbil, že nebude používat modely, které „vám neumožní vést války“.