Software pro rozpoznávání obličeje: AI vede k vlně zatýkání nevinných lidí v USA

Zatýkání zcela nevinných lidí je ve Spojených státech stále častější kvůli falešně pozitivním výstrahám z rozpoznávání obličeje AI. Kontrolní mechanismy? Sotva existují. Lidé se stále více spoléhají pouze na umělou inteligenci, aniž by si předem prověřili alibi nebo měli další důkazy.

Scéna vypadá jako z dystopického románu: Muž je v noci vyzvednut z postele a odveden v poutech – jen proto, že umělá inteligence nesprávně přiřadila jeho tvář. Ale to je přesně to, co se děje ve Spojených státech s alarmující pravidelností.

Nedávné vyšetřování Washington Post odhalilo, že několik policejních oddělení po celé zemi zatýká lidi, jejichž jediným „přestupkem“ je, že je umělá inteligence nesprávně identifikovala jako pachatele. Z 23 zkoumaných policejních oddělení zatklo 15 agentur ve 12 státech pouze na základě zásahů AI – bez jakýchkoli dalších důkazů.

Obzvláště znepokojivé: některé zprávy prohlásily netestované detekce AI za „100procentní shodu“. Nejméně osm lidí bylo prokazatelně neprávem zatčeno, dva případy nebyly dosud veřejně známé. Krok do velmi dystopické budoucnosti.

„Technologie podezřelého jednoznačně identifikovala,“ říká interní policejní zpráva – jak se později ukázalo, nebezpečný chybný úsudek. Nepravdivým zatčením mohla zabránit jednoduchá základní policejní práce, jako jsou kontroly alibi nebo porovnávání fyzických důkazů.

Louis Kelly, prokurátor ve Florencii v Kentucky, přesto hájil kroky svých policistů: „Naši policisté se spoléhají na své letité zkušenosti s identifikací podezřelých.“ Nezmiňuje se o tom, že v jeho kanceláři došlo k nejméně čtyřem zatčením pouze na základě zásahů AI.

Skutečný rozměr problému zůstává nejasný. Většina ze 75 agentur identifikovaných The Washington Post, které používají rozpoznávání obličeje, nemusí jejich použití dokumentovat ani zveřejňovat. Velké policejní útvary jako Austin, Detroit a Miami nejsou výjimkou – také zatýkaly lidi bez dalších důkazů.