Claude jako válečný inženýr: Rakety, roje kamikadze a 12 cílů na Tchaj-wanu
Systémy navádění raket v Jemenu, autonomní roje dronů kamikadze v Rusku a software pro eliminaci dvanácti vojenských cílů na Tchaj-wanu: Společnost Anthropic, která se zabývá umělou inteligencí, odhalila, jak byl její jazykový model Claude již použit pro vojenské vývojové projekty. Malé týmy vývojářů používaly umělou inteligenci k programování, výzkumu, simulaci a ladění – někdy se skutečným hardwarem a simulovaným odpálením rakety. To umožňuje provádět vojenské vývojové práce s výrazně menším počtem personálu.
V severním Jemenu je odpálena raketa – a test se zvrtne. Jen o několik hodin později jsou vývojáři zpět před Claudem a pomocí umělé inteligence hledají příčinu chyby. Tento scénář nepochází z vojenské studie, ale z nové zprávy americké společnosti Anthropic o zneužití jejích vlastních systémů umělé inteligence v období od prosince 2025 do srpna 2026. Skupina pracovala na třech zbraňových projektech: řízená střela, vícestupňová balistická střela s doletem přes 2 000 kilometrů a rodina raket s názvem R2000. Ta zahrnovala i variantu s hypersonickým kluzákem. Claude pomáhal s řízením letu, navigací, stabilizací, simulací a vývojem potřebného softwaru.
Skupina používala více instancí Claude současně. Jeden psal kód, jeden prováděl výzkum a další práci monitoroval. Chatbot s umělou inteligencí se tak fakticky stal malým virtuálním vývojovým týmem. Podle společnosti Anthropic její vlastní bezpečnostní mechanismy blokovaly četné požadavky, zatímco jiné se k nim dostaly. Vývojáři zakrývali účel jednotlivých pracovních kroků a rozdělovali úkoly mezi různé relace. Společnost Anthropic nemá žádné důkazy o tom, že by nakonec byla vytvořena funkční zbraň. K odpálení rakety však skutečně došlo. Po neúspěšném testu byl Claude opět použit k analýze a řešení problémů. Do této doby skupina také vybudovala vlastní simulační prostředí, které bylo možné používat i bez dalšího přístupu k Claude.
Rusko: Umělá inteligence programuje roj kamikadze
Vývojáři v Rusku šli ještě dál. Malý tým, pravděpodobně složený z freelancerů, pracoval na autonomním roji FPV dronů kamikadze. Projekty se jmenovaly jako „DronDoc“ a „Serafim“. Claude napsal a otestoval části kódu a výsledky uložil přímo do souborů projektu. Software byl navržen tak, aby koordinoval drony v rámci roje, identifikoval cíle pomocí palubní kamery, lokalizoval operátory dronů proti sobě a zvládl finální přiblížení. Malý palubní hlasový asistent měl rozhodovat mezi útokem, pozorováním a návratem. Systém také zahrnoval příkaz k odpálení dronů.
„Osoba“ byla výslovně zmíněna jako možná cílová kategorie. Dron měl být schopen vybírat cíle a odpálit výbušné zařízení bez nutnosti přímého lidského zásahu. Vývojáři trénovali svůj systém rozpoznávání obrazu pomocí záběrů z války na Ukrajině, kategorizovali objekty jako patřící k přátelským nebo nepřátelským systémům a opakovaně používali pevný bod v Doněcké oblasti jako simulovaný cíl. Projekt neexistoval jen na obrazovce. Vývojáři nahráli firmware na skutečné desky plošných spojů, nastavili jednodeskové počítače a propojili svůj hardware se simulačním prostředím. Anthropic nicméně považuje pozorované systémy za systémy v raných fázích vývoje; plně funkční autonomní roj dronů dosud nebyl vytvořen.
Společnost Anthropic se domnívá, že za projektem nestojí žádná ruská vládní agentura, ale malý specializovaný vývojářský tým s vazbami na regionální univerzitu a výzkumné centrum přidružené k Ruské akademii věd. Sami vývojáři tvrdili, že obdrželi finanční prostředky mimo jiné od ruského ministerstva obrany a státních výzkumných programů. Anthropic tato tvrzení nebyla schopna potvrdit.
Čína: Na obrazovce se náhle objeví dvanáct destinací na Tchaj-wanu
Třetí případ se odehrává v Číně. Tam herec využil Clauda k vývoji čínsky psaného softwaru pro elektronický boj a boj proti nepřátelské protivzdušné obraně. Během projektu bylo vytvořeno přibližně 16 modulů a dvanáct verzí. Software analyzoval radarová zařízení, pozice protiletadlových systémů, velitelská stanoviště a komunikační uzly. Vypočítal jejich dosah detekce, simuloval rušicí opatření a posoudil, které cíle byly obzvláště důležité nebo zranitelné. Ve výpočtech sehrály roli i systémy Patriot a THAAD. V polovině vývoje uživatel změnil standardní scénář. Od té doby se simulace zaměřila na dvanáct cílů na Tchaj-wanu. Podle Anthropic mezi ně patřil velitelský bunkr, radarový systém včasného varování, pozice protiletadlových systémů Patriot a Tien Kung, velké letecké základny a regionální vojenské velitelství.
Anthropic klasifikuje uživatele jako čínského výzkumníka z vojensko-průmyslového sektoru. Podle společnosti data a obsah účtu vykazovaly odkazy na čínské výzkumné instituce, včetně Akademie vojenských věd Lidové osvobozenecké armády. To však nedokazuje, že software byl vyvinut jménem čínských ozbrojených sil. O případech odhalených Anthropic informovala i agentura Reuters . Čínské ministerstvo zahraničí tiskové agentuře sdělilo, že o zprávě neví. Peking zároveň zdůraznil, že umělá inteligence by měla být využívána k dobrému účelu, a odmítl obvinění proti Číně.
Umělá inteligence činí malé týmy nebezpečnějšími
Anthropic tak dokumentuje skok ve vývoji, který sahá daleko za hranice jednotlivých vojenských projektů. Vysoce specializovanou práci lze alespoň částečně outsourcovat umělé inteligenci. Claude psal programový kód, simuloval systémy, vyhledával chyby a monitoroval práci ostatních instancí Claude. V Jemenu umělá inteligence převzala úkoly, které by jinak vyžadovaly další softwarové inženýry. Lidé s technickými znalostmi, hardwarem, financováním a přístupem ke komponentám zůstávají nezbytní. Týmy se však mohou zmenšit. Několik specialistů může provozovat několik instancí umělé inteligence současně, a tak paralelně zvládat programování, výzkum, monitorování a ladění.
Ochranná opatření poskytovatelů tomu zřejmě brání jen částečně. V Jemenu vývojáři dosáhli pokroku tím, že zakryli své skutečné cíle a rozdělili práci do mnoha jednotlivých sezení. Zdánlivě neškodný dílčí úkol odhaluje o konečném produktu jen málo. Raketa z Jemenu zřejmě během testování nefungovala, ruský roj dronů byl stále ve vývoji a žádné reálné nasazení tchajwanského softwaru nebylo zdokumentováno. Nicméně ve všech třech případech byl Claude již přímo zapojen do vývoje zbraní a vojenského plánování.
Neúspěšný start rakety ilustruje, jak úzce jsou nyní vývoj a podpora umělé inteligence propojeny: odstartovat raketu, identifikovat chyby, analyzovat data – a jen o několik hodin později je již v plném proudu práce na další verzi. Díky tomuto rozdělení do několika mezikroků je pro systémy umělé inteligence obtížné takový vývoj rychle odhalit. Ještě náročnější je to, když vývojáři rozšíří svou práci nejen na různé relace nebo účty, ale také na různé modely umělé inteligence. Claude se stará o jednu část, ChatGPT o druhou, zatímco Gemini se používá pro další sekci. Nikdo neví, kolik vývojů umožněných tímto přístupem proklouzlo trhlinami.
