Izrael použil své zbraně, poprvé otestované v Gaze

Stroj na vraždu s využitím umělé inteligence proti Íránu: Izrael je obviňován z používání umělé inteligence k výběru cílů bomb v Íránu – „bez jakéhokoli lidského dohledu“ – stejně jako to dříve udělal v Gaze.

Izrael používá systémy umělé inteligence k bombardování cílů, nejprve v Gaze a nyní v Íránu. Obrázek: Snímek obrazovky z YouTube

Poté, co Izrael bezprecedentně využil umělou inteligenci k výběru cílů bombardování v Gaze, experti nyní bijí na poplach kvůli tomu, co jeden analytik ve čtvrtek popsal jako nedostatek lidského dohledu nad výběrem cílů pro Írán pomocí umělé inteligence ze strany Izraele.

„Podobnosti mezi izraelským bombardováním Gazy a Teheránu jsou stále zřetelnější,“ uvedla ve čtvrtek v pořadu X Trita Parsi, viceprezidentka Quincyho institutu pro zodpovědné státní řízení. „V obou případech se zdá, že Izrael používá umělou inteligenci bez jakéhokoli lidského dohledu.“

„Například Izrael bombardoval park v Teheránu s názvem ‚Policejní park‘,“ dodal Parsi. „S policií to nemá nic společného. Zdá se ale, že umělá inteligence ho identifikovala jako cíl, protože Izrael bombarduje všechny budovy spojené s vládou. Nikdo v Izraeli se neobtěžoval to ověřit a zjistit, že je to jen park.“

Technologický novinář Jacob Ward, opakující terminologii startupů, popisuje izraelské využívání a export technologií umělé inteligence v éře po Gaze jako „smrtící betaverzi“. „Gaza byla prototypem,“ vysvětlil Ward ve videu zveřejněném tento týden na Bluesky. „Írán je startovacím bodem.“

„Je to laboratorní experiment na lidech s ostrou střelbou a ostrou municí, při kterém jsou lidé zabíjeni a vytváří se tak kanál exportovatelných produktů pro zbytek světa. A v Izraeli se z toho stalo velké odvětví – a něco, do čeho se i my ve Spojených státech zapojujeme a s čím už nějakou dobu obchodujeme.“

Předchozí vyšetřování podrobně popsala, jak Izraelské obranné síly (IDF) využívají systém Habsora, izraelský systém umělé inteligence schopný automaticky vybírat cíle pro nálety exponenciálně rychlejší rychlostí než kdykoli předtím. Zdroj izraelské zpravodajské služby uvedl, že tato technologie proměnila IDF v „továrnu na masové vraždy“, kde se „důraz klade na kvantitu spíše než na kvalitu“ zabíjení.

Chyby byly téměř nevyhnutelné, ale odborní kritici tvrdí, že izraelská politika situaci zhoršila. V napjatých hodinách po útoku vedeném Hamásem 7. října 2023 byli důstojníci IDF střední úrovně oprávněni nařizovat útoky nejen na vysoce postavené velitele Hamásu, ale na kteréhokoli bojovníka v odbojové skupině – bez ohledu na hodnost.

Podle vyšetřování New York Times mohli důstojníci IDF riskovat až 20 úmrtí civilistů při každém náletu a až 500 úmrtí nebojovníků denně. I tento limit byl po několika dnech zrušen. Důstojníci mohli nařídit libovolný počet útoků, které považovali za legální – bez jakéhokoli omezení počtu civilních obětí.

Vysoce postavení velitelé IDF někdy povolovali útoky, o kterých věděli, že by mohly zabít více než 100 civilistů, pokud by cíl byl považován za obzvláště cenný. V říjnu 2023 shodily IDF na uprchlický tábor Džabálie několik amerických bomb o hmotnosti 2 000 liber, které dokázaly zničit celý městský blok.

Při bombovém útoku bylo zabito nejméně 126 lidí, včetně 68 dětí, a 280 dalších bylo zraněno. Hamás uvedl, že při útoku byli zabiti také čtyři izraelští a tři mezinárodní rukojmí.

List Washington Post ve středu informoval, že americká armáda nasadila v Íránu „nejpokročilejší umělou inteligenci, jakou kdy ve válce použila – nástroj, bez kterého se Pentagon možná jen těžko obejde, i kdyby ukončil spolupráci se společností, která jej vyvinula“.

Podle deníku Post pomohl systém Maven Smart System od společnosti Palantir, který zahrnuje jazykový model umělé inteligence Claude od společnosti Anthropic, americkým velitelům vybrat 1 000 íránských cílů jen během prvních 24 hodin války.

Odborníci volají po opatrnějším přístupu k vojenské umělé inteligenci. Paul Scharre, viceprezident Centra pro novou americkou bezpečnost, listu Post řekl: „Umělá inteligence se mýlí… Potřebujeme, aby lidé zhodnotili výsledky generativní umělé inteligence, pokud jde o život a smrt.“

Není veřejně známo, zda byla umělá inteligence použita při některých z nejkrvavějších masakrů současné války proti Íránu, při nichž bylo zabito více než 1 000 Íránců, včetně asi 175 dětí a dalších, kteří byli podle záchranářů a příbuzných obětí zabiti při takzvaném dvojitém útoku na dívčí školu minulou sobotu v jižním městě Minab.

Minulý týden Trump nařídil všem federálním agenturám, včetně ministerstva obrany, aby přestaly používat všechny produkty Anthropic – zřejmě jako odvetu za to, že společnost se sídlem v San Franciscu odmítla poskytnout vládě a armádě neomezený přístup ke své technologii s odvoláním na obavy, že by mohla být použita k hromadnému sledování Američanů a v automatizovaných zbraňových systémech, známých také jako „zabijácké roboty“.

Trump dal Pentagonu šest měsíců na postupné vyřazení produktů Anthropic, ale povolil jejich další používání ve válce s Íránem, dokud nebudou nalezeny náhrady.

Projekt Nimbus – smlouva o cloudových technologiích a umělé inteligenci v hodnotě 1,2 miliardy dolarů podepsaná v roce 2021 mezi izraelskou vládou a společnostmi Amazon Web Services a Google Cloud – poskytuje cloudovou infrastrukturu, nástroje umělé inteligence a úložiště dat pro IDF a další vládní agentury. Dohoda zakazuje společnostem Google nebo Amazon odmítat služby izraelské vládě, armádě nebo zpravodajským agenturám.

Vědci a právní experti se tento týden setkávají v Ženevě ve Švýcarsku – druhé čtyřdenní kolo jednání začíná 31. srpna – na konferenci podporované Organizací spojených národů o smrtících autonomních zbraňových systémech.

Účastníci zkoumají rizika spojená s robotickými zabijáky, kteří si dokáží vybírat a útočit na cíle bez významné lidské kontroly. Zkoumají také právní, vojenské a technologické důsledky autonomních zbraňových systémů a pracují na dosažení mezinárodního konsensu ohledně jejich regulace.

„Současná neschopnost regulovat válčení s využitím umělé inteligence nebo pozastavit jeho používání, dokud nebude dosaženo dohody o jeho zákonném použití, naznačuje, že potenciální šíření válčení s využitím umělé inteligence je na spadnutí,“ řekl ve čtvrtek Nicole Jonesové z časopisu Nature Craig Jones, politický geograf z Newcastleské univerzity v Anglii, který se zabývá výzkumem výběru vojenských cílů.

Zatímco někteří zastánci zbraňových systémů s umělou inteligencí tvrdí, že jejich použití sníží počet civilních obětí, Jones zdůraznil, že „neexistují žádné důkazy o tom, že by umělá inteligence snižovala počet civilních obětí nebo nesprávná rozhodnutí o zaměřování – a mohlo by to být dokonce naopak.“

od Bretta Wilkinse