Když umělá inteligence rozhoduje o tom, kdo zemře: První vražedné drony už zřejmě zabily lidi

To, co bylo léta považováno za dystopickou vizi, se již může stát realitou. Podle zpráv New Scientist a Tom’s Hardware mohly ukrajinské ozbrojené síly nasadit plně autonomní drony již v roce 2024 a zabíjet ruské vojáky bez lidské kontroly či zásahu. Pokud by se to potvrdilo, byla by překročena červená čára, před kterou vědci, etici a Organizace spojených národů varují již léta. ( Tom’s Hardware )

Podle zpráv byly zapojené drony v takzvaném „Terminátorském režimu“. Deset kvadrokoptér ovládaných umělou inteligencí bylo údajně vysláno několik kilometrů za nepřátelské linie. Po startu nebylo k dispozici žádné další spojení se zařízeními, žádný video stream, žádný operátor ani způsob, jak útok zastavit. Stroje autonomně vyhledávaly své cíle a samy se rozhodovaly o životě a smrti. Ukrajinský vývojář vysvětlil: „Všechno, co viděly, bylo zničeno.“

Poslední lidské rozhodnutí mizí

Většina moderních zbraňových systémů se doposud řídila jedním principem: o použití smrtící síly nakonec rozhodují lidé. I u ozbrojených dronů sedí operátor před obrazovkou a vydává povel ke střelbě.

Zde popsané systémy fungují odlišně. Lidé pouze definují misi. Poté převezme kontrolu stroj. Identifikuje cíle, vyhodnocuje situace a samostatně provádí útoky. Odborníci to označují jako „člověk mimo okruh“ – lidé se již nepodílejí na rozhodovacím procesu.

To vyvolává otázku, na kterou zatím nikdo nedokázal odpovědět: Kdo nese odpovědnost, pokud stroj zabije člověka?

Programátor? Velitel? Výrobce? Stát?

Konec lidské války

Skutečným šokem není, že drony zabíjejí lidi. To se děje už léta. Nové je, že se stroje zřejmě poprvé samy rozhodly, koho zabijí.

To, co je dnes popisováno jako izolovaný test, by se zítra mohlo stát standardní praxí. Ukrajinské společnosti již vyvíjejí větší autonomní roje, zatímco USA, Čína, Rusko a další země investují značné prostředky do zbraňových systémů s umělou inteligencí. Americké letectvo v současné době pořizuje nové autonomní bojové drony a řada západních armád pracuje na podobných programech. ( Wall Street Journal )

Samotná Ukrajina nyní plánuje desítky tisíc bezpilotních systémů a na bojišti stále častěji nahrazuje vojáky roboty.

Prah dramaticky klesá

Kombinace umělé inteligence a levné masové výroby je obzvláště nebezpečná.

Dříve byly moderní zbraně drahé a dostupné jen v několika málo státech. Autonomní drony naopak často stojí jen několik tisíc dolarů. Mohou být vyráběny ve velkém množství a nasazovány v rojích.

Kritici proto varují, že autonomní zbraně by se mohly stát jakousi „jadernou zbraní pro chudé“. Stát, milice nebo dokonce teroristická skupina by v budoucnu mohly mít přístup k tisícům vraždících strojů ovládaných umělou inteligencí.

Politika přichází příliš pozdě

Zatímco technologie se neustále vyvíjejí, zákony a mezinárodní předpisy zaostávají. Doposud neexistuje žádný závazný mezinárodní zákaz autonomních systémů zabíjení.

Organizace spojených národů již léta volá po regulaci. Řada vědců varuje před takzvanými roboty-zabijáky. Zdá se však, že na bojištích vývoj pokročil daleko za hranice politických debat. ( smallwarsjournal.com )

Co to znamená pro občana

Skutečným zlomem není to, že dron autonomně zaútočí na vojáka. Důležitější otázkou je: Kde tato technologie končí?

Systémy, které rozpoznávají cíle, analyzují vzorce pohybu a činí nezávislá rozhodnutí, by v budoucnu mohly být použity také pro dohled nad hranicemi, vnitřní bezpečnost nebo hromadný dohled. Rozpoznávání obličeje, analýza chování a autonomní systémy se nyní vyvíjejí paralelně.

Co se dnes testuje na bojišti, často skončí až po letech v civilním sektoru.

Skutečným poselstvím těchto zpráv tedy není, že někteří vojáci byli zabiti drony. Jde o to, že lidstvo možná právě překročilo hranici, kdy stroje poprvé samy rozhodovaly o tom, kdo žije a kdo zemře.

A jakmile je tato hranice překročena, už nemusí být cesty zpět.