Poslední červená čára je překročena: Britská armáda testuje autonomní zabíjecí systémy bez lidské kontroly

Ještě před několika lety byla tato myšlenka považována za hranici moderního válčení: žádný počítač, žádný algoritmus ani žádný stroj by nikdy neměl mít možnost nezávisle rozhodovat o životě a smrti. Dnes je právě tato zásada předmětem debaty ve Velké Británii.

Jak informovaly Financial Times a Daily Mail , britští obranní plánovači zkoumají, zda by zbraňové systémy ovládané umělou inteligencí měly být schopny provádět smrtící útoky bez přímého lidského souhlasu. Mohlo by se jednat o první krok, kdy přední mocnost NATO učinila krok směrem k autonomním systémům zabíjení. ( ft.com )

Červená čára se posouvá

Doposud platila oficiální zásada „Člověk v kontaktu“ – člověk musí nakonec rozhodnout, zda je cíl napaden.

Nyní však části britské armády požadují větší prostor pro autonomní systémy. Ministr obrany Al Carns otevřeně prohlásil, že je nezbytné mít možnost „v případě potřeby vyřadit lidi ze smyčky“, protože protivníci jako Rusko nebo Čína se stejných omezení nedrží.

Argumentace zpočátku zní pragmaticky: moderní války jsou stále rychlejší, roje dronů a systémy umělé inteligence dokáží činit rozhodnutí během několika sekund, zatímco lidští velitelé mohou reagovat příliš pomalu.

Ale právě zde začíná skutečná kontroverze.

Kdo nese odpovědnost?

Jakmile si stroj sám vybere cíle a zaútočí na ně, nastává problém, který dosud nikdo přesvědčivě nevyřešil:

Kdo ponese odpovědnost, pokud si umělá inteligence vybere špatný cíl? Kdo ponese odpovědnost, pokud budou zabiti civilisté? Kdo ponese odpovědnost, pokud algoritmus učiní špatné rozhodnutí kvůli chybným datům nebo elektronickým poruchám?

Kritici varují, že s každým krokem směrem k autonomní válce se hranice mezi lidskou odpovědností a rozhodováním strojů stále více stírá.

Konec slibu?

Obzvláště pozoruhodné je načasování debaty.

Ještě v roce 2024 britská vláda prohlásila OSN, že Británie nevlastní plně autonomní zbraňové systémy a nemá v úmyslu takové systémy vyvíjet. Žádný stát by neměl používat zbraně schopné činit smrtící rozhodnutí bez odpovídajícího lidského dohledu. ( ft.com )

Pouhé dva roky poté je tato pozice znovu předložena k diskusi.

Kritici tvrdí, že to ukazuje, jak rychle mohou etické principy ustoupit geopolitickým a vojenským zájmům.

Globální vylepšení umělé inteligence

Velká Británie není v tomto vývoji sama.

Válka na Ukrajině, rychlý vývoj autonomních dronů a technologické závody mezi velmocemi zvýšily tlak na západní armády. Stále více států investuje do systémů, které mohou fungovat s minimálním lidským zásahem.

Co bylo dříve považováno za sci-fi, se postupně stává vojenskou realitou.

Skutečná otázka

Debata o autonomních zbraních v konečném důsledku není technickou otázkou.

Je to morální otázka. Měl by stroj někdy dostat pravomoc nezávisle rozhodovat o tom, kdo bude žít a kdo zemře?

Británie tuto možnost již teoreticky nediskutuje. Diskuse již probíhá na nejvyšších úrovních obranného aparátu.

A právě proto by současná debata mohla mít význam daleko za hranicemi Britských ostrovů. Pokud totiž některá ze zemí NATO vyloučí lidi z rozhodovacího procesu, mohlo by to vytvořit precedent, který by brzy mohly následovat i další státy.