Britská policie testuje systém umělé inteligence pro sledování „podezřelých“ cest

Dohled s využitím umělé inteligence se přesouvá od hledání podezřelých k mapování každodenního života a transformuje každodenní mobilitu do proudu behaviorálních dat.

Policejní sbory po celé Velké Británii experimentují s umělou inteligencí, která dokáže automaticky monitorovat a kategorizovat pohyb řidičů pomocí rozsáhlého systému rozpoznávání registračních značek.

Interní dokumenty, které viděly deníky Liberty Investigates a The Telegraph, ukazují, že tři z devíti regionálních jednotek pro boj s organizovaným zločinem v Anglii a Walesu testují program vyvinutý společností Faculty AI. Tento program je navržen tak, aby se učil z dat o pohybu vozidel a identifikoval jízdy, které algoritmy klasifikují jako „podezřelé“.

Systém automatického rozpoznávání registračních značek (ANPR) již léta zaznamenává denně více než 100 milionů registrací vozidel, většinou za účelem kontroly, zda se v určité oblasti objevila konkrétní registrační značka.

Nová iniciativa tuto logiku zásadně mění. Místo kontroly jednotlivých registračních značek je software naučen sledovat celé trasy a vyhledávat vzorce chování podobné těm, které mají zločinecké sítě známé pro takzvaný „county lines“ obchod s drogami.

Projekt s názvem Operace Ignition představuje změnu rozsahu a ambicí.

Na rozdíl od konvenčních varovných systémů, kde úředníci ručně označují „vozidla zájmu“, se model strojového učení učí z minulých dat a vytváří si vlastní seznam potenciálních cílů.

Oficiální dokumenty uznávají, že tento proces by mohl ovlivnit „miliony [registračních značek vozidel]“ a že získané informace by mohly ovlivnit budoucí rozhodnutí o etickém a provozním využití těchto technologií.

Co začalo jako soudní proces financovaný ministerstvem vnitra na severozápadě země – zahrnující Merseyside, Greater Manchester, Cheshire, Cumbrii, Lancashire a severní Wales – se nyní rozšířilo do tří regionálních jednotek pro boj s organizovaným zločinem.

Úřady to popisují jako technický experiment, ale dokumenty naznačují dlouhodobé plány na celostátní zavedení.

Organizace pro občanská práva varují, že takové systémy jen zřídka zůstávají omezeny na svůj původní účel.

Jake Hurfurt z organizace Big Brother Watch uvedl: „Britská síť ANPR je již nyní jednou z největších sledovacích sítí na světě a denně sleduje cesty milionů nevinných lidí. Využití umělé inteligence k analýze milionů zachycených registračních značek tuto sledovací síť pouze učiní invazivnější. Monitorování a analýza tolika cest narušuje soukromí každého a má potenciál umožnit policii jediným kliknutím analyzovat, jak se všichni pohybujeme po zemi.“

Dodal, že ačkoli je boj proti organizovaným drogovým trasám legitimním cílem, „existuje reálné riziko zneužití – ANPR byl zaveden jako protiteroristické opatření a nyní se používá k vymáhání dopravních předpisů. Otázkou není, zda by se policie měla snažit zastavit gangy, ale jak by se tato nová generace rozpoznávání registračních značek mohla v budoucnu využít.“

Aplikaci pro vyhledávání a profilování vyvinula britská technologická společnost Faculty AI s úzkými vazbami na vládní projekty.

Společnost, která spolupracovala s Dominicem Cummingsem během kampaně Vote Leave, od té doby vyvinula nástroje pro analýzu dat pro NHS a ministerstvo obrany.

Fakulta se nedávno dostala pod drobnohled poté, co byla pověřena vývojem softwaru, který prohledává sociální média a vyhledává „znepokojivé“ příspěvky. Software byl později použit k monitorování online debat o ubytování žadatelů o azyl.

Fakulta se odmítla vyjádřit ke své roli v iniciativě ANPR.

Vrchní policejní náčelník Chris Todd, předseda Výboru pro data a analytiku Národní rady policejních náčelníků, popsal systém jako „malý, průzkumný, provozní důkaz konceptu pro potenciální využití strojového učení ve spojení s daty ANPR“.

Řekl, že test použil „pouze velmi malou podmnožinu dat z ANPR“ a zdůraznil, že „jsou zavedena opatření na ochranu a zabezpečení údajů a byla zřízena etická komise, která práci monitoruje“.

William Webster, komisař pro biometrii a bezpečnostní kamery, uvedl, že ministerstvo vnitra konzultuje nové právní rámce pro digitální a biometrické policejní nástroje, včetně ANPR.

„Dohled je klíčovou součástí tohoto rámce,“ řekl a dodal, že testy tohoto druhu by měly probíhat v „bezpečném prostoru“, který zajistí „transparentnost a odpovědnost od samého začátku“.

Mluvčí ministerstva vnitra uvedl, že aplikace je „navržena na podporu vyšetřování závažné a organizované trestné činnosti“ a v současné době je testována „v malém měřítku“ s „malou podmnožinou dat shromážděných národní sítí ANPR“.

Z hlediska ochrany osobních údajů nespočívá problém pouze ve shromažďování údajů o pohybu, ale také v tom, co z nich lze odvodit.

Propojením milionů cest s behaviorálními modely by systém mohl v konečném důsledku vytvořit mapu pohybu populace v celé zemi v reálném čase.

Jakmile se tato analytická schopnost stane součástí běžné policejní práce, rozdíl mezi sledováním podezřelých a sledováním občanů by se mohl zcela rozmazat.

Ken Macon