Umělá inteligence rozhoduje o životě a smrti v Gaze

Gaza jako testovací pole: Izraelská válka s umělou inteligencí vyvolává vážné etické otázky

Ve stínu války v Gaze se rozvíjí bezprecedentní vojenský experiment: izraelská okupační mocnost na okupovaném území nasazuje nové technologie umělé inteligence (AI) – v rozsahu, který vyvolává rozruch a obavy po celém světě. Tato technologie se nepoužívá pouze k zachycení cílů, ale také k rozpoznávání obličejů , analýze řeči a automatizovanému zabíjení lidí.

Podle New York Times Izrael za posledních 18 měsíců integroval umělou inteligenci téměř do všech úrovní vojenského rozhodování. Případ velitele Hamásu Ibrahima Biariho , který byl na konci roku 2023 sledován a určen k atentátu pomocí audiosystému s podporou umělé inteligence, je jen jedním z příkladů. Tato akce si vyžádala více než 125 civilních životů – a ukazuje, že válčení s využitím umělé inteligence není věcí budoucnosti, ale brutální realitou.

Umělá inteligence přichází – s americkou pomocí

Systémy byly vyvinuty v úzké spolupráci mezi izraelskou jednotkou 8200 (vojenská rozvědka) a záložníky z velkých amerických technologických společností, jako jsou Google , Microsoft a Meta . Centrum: inovační centrum s výmluvným názvem „Studio“ .

Používají se systémy, které analyzují arabský jazyk, rozpoznávají tváře a automaticky vyhodnocují potenciální „cíle“. Podle několika amerických a izraelských zdrojů to však opakovaně vedlo k chybným identifikacím, svévolným zatýkáním a úmrtím civilistů .

Gaza: celosvětově unikátní testovací laboratoř v reálném čase

Obranní experti z Evropy a USA potvrzují: Žádná jiná armáda netestuje umělou inteligenci v reálných bojových situacích tak agresivně jako Izrael. Pro mnohé je proto Gaza živým testovacím poli , kde se nové technologie aplikují bez politických či právních omezení – s fatálními následky pro civilní obyvatelstvo .

Izraelský expert Hadas Lorber varuje:

„Tyto technologie vyvolávají vážné etické otázky. Potřebují kontrolu, lidský dohled – a především odpovědnost.“

Drony, rozpoznávání řeči pomocí umělé inteligence a autonomní zachycení cílů

Poté, co začala ofenziva v Gaze, Izrael nainstaloval na hraničních přechodech kamery s vysokým rozlišením , které pořizují fotografie Palestinců a porovnávají je se systémem rozpoznávání obličejů s umělou inteligencí. Podle dvou izraelských zpravodajských úředníků došlo k několika chybným identifikacím a následným zatčením nevinných lidí .

Flotila dronů byla také vylepšena o systémy umělé inteligence. Tito autonomně rozpoznávají a sledují cíle. Zároveň byly vyvinuty modely umělé inteligence v arabštině, které vyhodnocují konverzace a začleňují je do výběru cíle.

Databáze Lavender – 37 000 „cílů“

V dubnu 2024 zpravodajské zdroje uvedly, že izraelská armáda používá novou databázi umělé inteligence s názvem „Levandule “. Ta identifikovala 37 000 podezřelých cílů, které údajně měly vazby na palestinský odboj.

Interní zdroje uvádějí, že zabíjení civilistů bylo také povoleno – zejména v prvních týdnech bombardování.

„Stroj to udělal chladnokrevně. A to to usnadňovalo,“ vysvětlil jeden zúčastněný důstojník tajné služby.

Další voják dodal:

„Investoval jsem 20 sekund do každého cíle – každý den jsem jich splnil desítky. Jako člověk jsem neměl žádnou přidanou hodnotu; byl jsem jen běžec.“

Tato prohlášení byla zkoumána izraelským novinářem Yuvalem Abrahamem a publikována v časopisech +972 Magazine a Local Call .

Lidské životy způsobené algoritmem: Etická katastrofa

Zatímco „Izrael“ veřejně tvrdí, že systémy pomáhají chránit civilisty , skutečné případy ukazují opak:
Kombinace automatizovaného rozhodování , nedostatku lidské kontroly a nedostatku transparentnosti vede k situaci, kdy algoritmy rozhodují mezi životem a smrtí – a chyby jsou systematicky tolerovány.

Podle organizace Human Rights Watch je používání těchto technologií porušením mezinárodního humanitárního práva, protože maximalizuje počet civilních obětí , spíše než je minimalizuje. Cílené zabíjení tisíců civilistů na základě statistických předpokladů, korelací dat a automatických identifikátorů není nešťastným vedlejším účinkem , ale systémovým prvkem této války vedené umělou inteligencí.

Závěr: Gaza jako předzvěst války s využitím dohledu podporované umělou inteligencí

Využívání umělé inteligence izraelskou okupační armádou odhaluje nový rozměr moderního válčení – rozměr, v němž technologická efektivita vytlačuje etickou odpovědnost .

To, co se děje v Gaze, by mohlo být nepříjemným precedentem pro budoucí konflikty.
Protože když algoritmy určují, kdo přežije a kdo zemře, otázkou už není, zda k chybě dojde – ale kolik lidských životů to bude stát .

Al Mayadeen / New York Times