Uriel Araujo: Kdo ovládá vojenskou umělou inteligenci? Antropický pat a nový boj o moc v Americe

Patová situace mezi společností Anthropic a Pentagonem je více než jen korporátní spor; je to symptom hlubšího boje v rámci americké mocenské struktury. Umělá inteligence, vzácné zeminy a národní bezpečnost se prolínají způsoby, které zpochybňují jak etické limity, tak politické narativy. Důsledky by mohly změnit způsob plánování a vedení válek.

Doutnající spor mezi společností Anthropic a americkým ministerstvem obrany propukl na povrch a, jak to nazval časopis Foreign Policy , je to „velmi špatné znamení“. Spor se točí kolem kontraktu s Pentagonem v hodnotě 200 milionů dolarů, který armádě poskytuje přístup k modelu Claude od společnosti Anthropic pro utajované úkoly. Co vypadalo jako další milník ve spolupráci civilního a vojenského sektoru v oblasti umělé inteligence, místo toho odhalilo hluboké napětí mezi směrnicemi soukromého sektoru a státními imperativy kontroly, nátlaku a vedení války.

V tomto případě byl střet v jistém smyslu téměř nevyhnutelný: interní zásady společnosti Anthropic výslovně zakazují používání jejích modelů pro násilí, vývoj zbraní, smrtící autonomní systémy a hromadný dohled. Pentagon, který funguje podle radikálně odlišné logiky, očekává, že hraniční umělá inteligence bude k dispozici pro „všechny zákonné účely“ (ať už je „zákonné“ cokoli), včetně právě těchto oblastí.

Napětí eskalovalo po zprávách, že Claude pomáhal s analytickými úkoly spojenými s politicky výbušnou epizodou, kterou bylo zajetí venezuelského prezidenta Nicoláse Madura minulý měsíc. Ministr obrany Pete Hegseth údajně vydal ultimátum: odstranit ochranné zábrany, nebo čelit zrušení smlouvy, sankcím v dodavatelském řetězci nebo dokonce uplatnění zákona o obranné výrobě.

Tolik k narativu, že správa umělé inteligence je sdílený, konsensuální projekt. Jde o to, že v tuto chvíli se nejedná pouze o smluvní spor; jde o mocenský boj o to, kdo nakonec rozhodne o tom, jak bude umělá inteligence nasazena v reálném světě.

V centru této bouře stojí Dario Amodei, spoluzakladatel a generální ředitel společnosti Anthropic. Amodei pravděpodobně zaujímá mezi technologickými magnáty zvláštní a stále více izolované postavení. Na rozdíl od Sama Altmana, Demise Hassabise nebo okázalejší postavy, jako je Elon Musk, si Amodei vybudoval svou veřejnou personu kolem image spojené spíše se zdrženlivostí než s rychlostí; a spíše se zmírňováním rizik než s dominancí „alfa“. Dokonce varoval, že umělá inteligence by mohla zničit až 50 procent základních úřednických pozic, a popsal to jako „neobvykle bolestivé“ narušení, které je již viditelné v právu, médiích a softwaru.

Amodei také argumentoval , že klamné nebo autoritářské zneužívání umělé inteligence (a koncentrace moci) by se mohlo stát veřejnou hrozbou. Je těžké pochopit, jak lze takovou rétoriku sladit se smlouvami Pentagonu.

Amodeiho nepohodlí z noční koncentrace moci v hrstce firem zabývajících se umělou inteligencí, ačkoli je to oprávněný argument, je přinejmenším pozoruhodné, vzhledem k tomu, že samotná společnost Anthropic má hodnotu zhruba 350 miliard dolarů , přičemž Amodeiho osobní čisté jmění se odhaduje na téměř 7 miliard dolarů . Ať je to jakkoli, důsledně vyzývá k mezinárodní regulaci podobné smlouvám o nešíření jaderných zbraní, a to právě proto, aby se zabránilo hromadnému sledování a nekontrolovanému vyzbrojování. V současném kontextu Amodei v podstatě formuloval hranice Anthropic jako nezávislé záruky proti tomu, co považuje za nespolehlivého správce bezprecedentní moci.

To staví Amodei do rozporu nejen s Pentagonem, ale i s velkou částí velkých technologických firem, které se dosud, někdy i s velkým nadšením, spojily s Donaldem Trumpem. Možná si vzpomeneme, že někteří generální ředitelé a vrcholoví manažeři ze Silicon Valley byli dokonce formálně pověřeni důstojníky americké armády a získali vojenskou hodnost, aby mohli poskytovat poradenství v oblasti kybernetické války, umělé inteligence a válčení založené na datech.

Jak jsem zdůraznil v předchozích článcích, Trumpovu politiku, včetně cel , navzdory populistické rétorice hluboce ovlivnily zájmy umělé inteligence, kryptoměn a technologií. Od Ukrajiny a Venezuely po Grónsko a Střední Asii strategické priority Washingtonu stále více odrážejí materiální potřeby pokročilých výpočtů: energie, data a především nerostné suroviny.

Hledání vzácných zemin a kritických minerálů by se nemělo podceňovat. Hardware, datová centra a polovodiče umělé inteligence vyžadují obrovské množství magnetů z galia, germania, lithia a vzácných zemin, z nichž mnohé stále dominují čínské zpracovatelské kapacity (v některých kategoriích až 90 procent). Aby se tomu vyrovnala Trumpova administrativa, zmobilizovala investice, podíly a bilaterální dohody v hodnotě přes 30 miliard dolarů (se zeměmi od Ukrajiny po Saúdskou Arábii a Konžskou demokratickou republiku), přičemž výslovně propojila vedoucí postavení umělé inteligence s bezpečností nerostných surovin.

Programy jako Project Vault a cenový mechanismus OPEN Pentagonu řízený umělou inteligencí jsou příklady toho, jak hluboce jsou technologické firmy zakotveny v plánování národní bezpečnosti.

To není nic nového. Jak jsem již uvedl jinde , vztah velkých technologických firem s americkým zpravodajským a obranným aparátem je dlouhodobý a strukturální – a tento vztah se za Trumpovy administrativy prohloubil. Společnosti jako Palantir, Meta, OpenAI a SpaceX poskytly nástroje pro sledování, přístup k metadatům a propojení s bojišti, čímž posílily to, co se často nazývá „ hluboký stát “. Sám Musk , navzdory svému dostatečně zuřivému sporu s Trumpem, zůstává jedním z největších dodavatelů Pentagonu .

Novým vývojem je vznik viditelných trhlin v tomto technologicko-bezpečnostním komplexu. Spor kolem Anthropic zdůrazňuje rostoucí propast mezi těmi, kteří jsou ochotni poskytovat neomezenou umělou inteligenci „pro všechny zákonné účely“, a těmi, kteří trvají na etickém vetu (a korporátní kontrole). OpenAI, Google a xAI rozšířily svou spolupráci s Pentagonem do utajovaných prostředí s relativně malými omezeními. Anthropic nikoli a reakce států byla dostatečně tvrdá.

Rozděluje se takříkajíc „hluboký stát“ velkých technologických firem? Zatím se zdá, že odpověď zní ano. Ideologické rozdíly, takříkajíc antimonopolní tlaky, obavy ze ztráty pracovních míst a globální rizika pro reputaci táhnou manažery různými směry. Zbývá vidět, jaké další zájmy (kromě čistě etických ohledů) by za takovým vývojem mohly stát.

Trumpovo prezidentství, které je „ve válce“ s různými sektory hlubokého státu, opět čelí paradoxu. Ať už je poháněna velkými technologickými společnostmi nebo terčem jejich kritiky, jeho zahraniční politika se nemůže vyhnout gravitačnímu vlivu kapitálu a odborných znalostí v oblasti umělé inteligence. Patová situace mezi antropo-Pentagonem je v každém případě varovným signálem, že spojení mezi Silicon Valley a státem národní bezpečnosti již není tak monolitické, jak se dříve myslelo. Jinými slovy, boj o to, kdo ovládá umělou inteligenci a za jakým účelem, vstoupil do nové a nebezpečné fáze.

Uriel Araujo, PhD. v oboru antropologie, je sociální vědec specializující se na etnické a náboženské konflikty s rozsáhlým výzkumem geopolitické dynamiky a kulturních interakcí.