Angela Lippsová strávila 108 dní ve vězení, protože algoritmus pro rozpoznávání obličeje měl chybu

Software se zmýlilo, ale Angela Lippsová musela i tak strávit 108 dní ve vězení v Tennessee, aby to dokázala.

Drátěný model lidské tváře v neonově červené a zelené barvě s geometrickými síťovými čarami a obvodovými spoji na černém pozadí.

Angela Lippsová strávila téměř šest měsíců ve vězení, protože algoritmus analyzoval záznam z bezpečnostních kamer a zjistil, že se shoduje s podezřelou osobou. Nikdy nebyla v Severní Dakotě. Nikdy neletěla letadlem. Systém rozpoznávání obličeje tvrdil opak a policie to považovala za dostatečné.

Lippsová, padesátiletá matka a babička ze severocentrálního Tennessee, byla v červenci zatčena ve svém domě, když se starala o čtyři děti. Úřady americké policie dorazily se zbraněmi v rukou. Byla registrována jako uprchlice.

„Nikdy jsem nebyla v Severní Dakotě, neznám nikoho ze Severní Dakoty,“ řekla pro WDAY News.

Případ začal bankovním podvodem ve Fargu.

Mezi dubnem a květnem 2025 někdo použil padělaný vojenský průkaz amerického vojáka k výběru desítek tisíc dolarů z bank po celém městě. Vyšetřovatelé zajistili záznam z bezpečnostních kamer ženy u pokladen. Tento záznam vložili do softwaru pro rozpoznávání obličeje. Software poskytl jméno: Angela Lippsová.

Vyšetřovatel v soudních dokumentech napsal, že Lipps se podezřelému zdánlivě podobal na základě rysů obličeje, postavy a účesu.

Toto posouzení, provedené softwarem a schválené ve zprávě, bylo považováno za dostatečný důvod k zatčení. Nikdo z policejního oddělení ve Fargu Lippsové nevolal, než se u jejích dveří objevili šerifové.

Strávila 108 dní ve věznici v okrese Tennessee a čekala, až jí Severní Dakota zařídí převoz. Bez kauce. Čtyři obvinění z neoprávněného použití osobních údajů. Čtyři obvinění z krádeže. Algoritmus promluvil.

Její právník Jay Greenwood řekl serveru InForum: „Pokud máte jen rozpoznávání obličeje, možná bych se chtěl trochu hlouběji ponořit.“

Policie ve Fargu se nepustila do pátrání hlouběji. Lippsovou nakonec očistily její bankovní záznamy, které ukazovaly, že během každé transakce, která jí byla připisována v Severní Dakotě, se nacházela více než 1 200 mil daleko v Tennessee. Greenwood tyto záznamy získal a předložil je vyšetřovatelům. Lippsová byla propuštěna na Štědrý den.

Ale tím příběh neskončil. Během pobytu ve vězení, kdy si nemohla dovolit platit účty, Lippsová přišla o domov, auto i psa. Když ji policie ve Fargu propustila, ani nezařídila její návrat do Tennessee. Obhájci jí pomohli zaplatit hotelový pokoj a jídlo na Vánoce. Domů ji přivezla místní nezisková organizace F5 Project.

V době zveřejnění zprávy serveru InForum se nikdo z fargské policie neomluvil.

Takto funguje rozpoznávání obličeje: Vytvoří shodu, orgány činné v trestním řízení na základě ní zasáhnou a břemeno vyvrácení předpokladu počítače leží výhradně na osobě, jejíž život je v důsledku toho uvržen do chaosu.

Lipps musela poskytnout listinné důkazy o svém pobytu, aby se vyhnula obviněním založeným na softwaru – i když ta byla jednoduše nepravdivá.

Případ Lipps není ojedinělý incident. Loni v říjnu systém umělé inteligence ve škole v Baltimoru identifikoval sáček Doritos jako střelnou zbraň a upozornil policii.

Ozbrojení policisté dorazili na střední školu Kenwood, přinutili studenta Takiho Allena kleknout, nasadili mu pouta a prohledali ho. Nic nenašli.

Ve Spojeném království právě dokončil devětatřicetiletý Shaun Thompson dobrovolnickou směnu u Street Fathers – skupiny, která se snaží chránit mladé lidi před trestnou činností s použitím nožů – když ho před stanicí London Bridge zachytily kamery Metropolitní policie s rozpoznáváním obličeje.

Policisté ho zadrželi téměř půl hodiny, požadovali jeho otisky prstů a vyhrožovali mu zatčením, přestože předložil několik dokladů totožnosti, které prokazovaly, že není hledanou osobou. „Řekli mi, že jsem hledaný muž, chtěli mé otisky prstů a snažili se mě zastrašit zatčením, přestože jsem věděl, a oni věděli, že se počítač spletl,“ řekl.

Thompson nyní vede první právní spor svého druhu proti používání rozpoznávání obličeje v reálném čase Metropolitní policií. Muž, kterého algoritmus identifikoval jako zločince, strávil večer prevencí zločinu. Technologie však nic nezměnila.

Všechny tyto případy mají společné identickou strukturu: Systém provede identifikaci, lidská kontrola ji považuje za spolehlivou a postižená osoba nemá únik, dokud nedojde k významnému poškození.

Regina Morrisonová