Ukrajina: Drony s umělou inteligencí útočí autonomně
Přestože je rozpoznávání vzorů umělou inteligencí stále náchylné k chybám, na Ukrajině se testují autonomní drony ovládané umělou inteligencí. Podle zpráv tyto drony již nezávisle na sobě zabily lidi v první linii. Co by se mohlo pokazit?
Ve Spojených státech se systémy umělé inteligence používají v policejních složkách k automatickému rozpoznávání obličejů. To vedlo k vlně zatýkání nevinných lidí , protože umělá inteligence není dokonalá, pokud jde o rozpoznávání vzorů (což zahrnuje biometrické prvky v analýze obličeje). Ve válce na Ukrajině však ukrajinští výrobci zbraní tyto okolnosti zjevně pohodlně ignorují a výsledné vedlejší škody jednoduše akceptují.
Britský vědecký časopis „ New Scientist “ s odvoláním na ukrajinského výrobce dronů uvádí, že autonomní, umělou inteligencí ovládané zabijácké drony již byly testovány v boji. Údajně tyto drony také nezávisle na sobě zabíjely lidi. Výrobce dronů Alexander Kochanovský však pro svá tvrzení neposkytl žádné důkazy, zejména proto, že sám nebyl na místě testování přítomen.
V tomto testu bylo nasazeno deset dronů „Terminátor“ ovládaných umělou inteligencí, které by se bez lidského potvrzení cíle samostatně rozhodly zabít ruské vojáky. Navíc tento test proběhl již před dvěma lety. Kvadrokoptéry byly naprogramovány tak, aby letěly k frontové linii, po dobu deseti minut prohledávaly oblast o rozloze tří až pěti kilometrů a poté přepnuly do „režimu Terminátor“ k útoku na identifikované cíle.
„Prostě to odpálíme a víme, že všechno, co tam bude mrtvé – všechno, co se v dané oblasti najde, bude mrtvé,“ říká Kochanovský. „Neexistuje absolutně žádná souvislost s dronem, nevidíte žádné video, vůbec nic… Všechno, co detekuje, je zničeno.“ Protože však neexistoval způsob, jak zjistit, co tyto drony našly, byly po testu do oblasti nasazeny drony s lidským řízením. Tato manuální kontrola odhalila, že bylo odstraněno „někteří vojáci a nákladní auto“. Kromě toho podle vědeckého portálu existovaly již v roce 2023 zprávy o tom, že takové autonomní útočné drony s umělou inteligencí byly používány primárně proti ruským tankům a dalším vozidlům.
Již v roce 2022 informoval server Report24 o čínských ambicích ohledně dronů ovládaných umělou inteligencí pro námořnictvo Lidové osvobozenecké armády. V budoucnu by se takové autonomní podvodní drony ovládané umělou inteligencí mohly skrývat v Tichém oceánu a čekat na nasazení do aktivního boje. Spojené státy také pracují na dronech poháněných umělou inteligencí („Goalkeeper“ pro vzdušné operace, „Whiplash“ pro námořní operace) pro budoucí válčení. Ty by také měly být schopny samostatně lokalizovat a eliminovat cíle.
Taková automatizace s využitím umělé inteligence však má svou cenu. Tato technologie je stále nedokonalá a může vést k falešně pozitivním výsledkům. To ohrožuje nevinné civilisty, protože umělá inteligence je může mylně identifikovat jako legitimní cíle. Chyby v identifikaci mohou také vést k vlastní palbě. Na rozdíl od jaderných, biologických a chemických zbraní však navzdory rychlému pokroku v systémech založených na umělé inteligenci stále neexistují odpovídající mezinárodní úmluvy.
