Plán policie na zavedení umělé inteligence do „prediktivní analýzy“ by nás měl všechny znepokojovat

Vzhledem k nedávným odhalením týkajícím se používání umělé inteligence (AI) policií v oblasti West Midlands k vymýšlení informací o izraelských fotbalových fanoušcích by si člověk myslel, že policie bude s širším využitím takové technologie poněkud váhat. Ale mýlili byste se.

V nedávném rozhovoru pro Telegraph uvedl Sir Andy Marsh, ředitel Policejní akademie, že policie vyhodnocuje až 100 projektů, v nichž by policisté mohli využít umělou inteligenci k řešení kriminality. To zahrnuje využití takových věcí, jako je „prediktivní analytika“ k zacílení na zločince dříve, než zaútočí, což připomíná film Minority Report z roku 2002. Cílem je podle ministryně vnitra Shabany Mahmoodové upřít „oči státu“ na zločince „za všech okolností“. Toto bude dále popsáno v připravované bílé knize o policejní reformě.

Rozšíření využívání umělé inteligence v britské policii se neustále prezentuje jako inovace, efektivita a ochrana. Ve skutečnosti však představuje rozhodující krok směrem ke společnosti, v níž je se svobodou zacházeno jako s rizikem, které je třeba řídit. Zahalená do jazyka bezpečnosti a reforem představuje umělá inteligence tichou, ale hlubokou transformaci vztahu státu k jeho občanům: od strážce zákona k neustálému dohlížiteli na chování.

Každá policejní oblast již má zpravodajskou jednotku zodpovědnou za „prediktivní analýzu“. Trestné činy zaznamenané v policejních rejstřících jsou zkoumány analytiky, kteří poté vypracovávají zprávy a briefingy týkající se ohnisek kriminality a podobně. Následně lze na konkrétní místo v konkrétní čas nasměrovat příslušné policejní zdroje, aby se s trestným činem vypořádaly nebo mu předešly. Umělá inteligence nikdy nemůže adekvátně nahradit tým vyškolených profesionálů procházejících data. Pravděpodobně to však dokáže za zlomek nákladů, což je pro většinu vyšších důstojníků důležitější než občanské svobody. Ne tak Minority Report jako spíše Heath-Robinson.

Základní nespravedlnost je jasná. Policie v údajně svobodné společnosti reaguje na trestné činy, které se již staly, nebo na prevenci zahrnující vysoce viditelné uniformované hlídky. Takzvaná prediktivní policejní práce tuto logiku obrací tím, že zaměřuje moc státu na každého, z nichž téměř nikdo neudělal nic nezákonného. Bude založena na statistických odhadech IT o tom, co by mohli udělat. Nejde o pouhou technickou úpravu policejní práce, jak by nás někteří chtěli přesvědčit; jde o úplnou změnu důrazu na to, že každý je potenciálně vinen, dokud se neprokáže jeho nevina. Hromadný dohled (protože to přesně je) bude zaveden bez obvinění, bez soudu a bez rozsudku, protože nebude vzneseno žádné formální obvinění.

Zastánci tohoto přístupu předstírají, že neexistuje žádná hrozba pro svobodu jednotlivce . To je očividně nepravdivé. Svoboda je narušována všude, kde stát trvale vstoupí do života člověka. Neustálé dohledávání je formou měkkého nátlaku. Vědomí, že vaše pohyby, vztahy a chování jsou státem zaznamenávány a vyhodnocovány, se rovná nátlaku. Společnost, ve které se občané musí chovat, jako by byli neustále sledováni, není svobodná; je pouze spořádaná.

Ještě horší je, že tento systém ničí jakoukoli skutečnou míru odpovědnosti. Rozhodnutí, která kdysi patřila identifikovatelným úředníkům, budou připisována systému nebo programu. Když dojde k chybám, což se nevyhnutelně stane, nebude existovat žádný rozlišující lidský úsudek, který by systém prozkoumal, protože operátoři se téměř jistě v první řadě podřídí stroji. Moc se rozptýlí směrem nahoru do institucí a ven k vývojářům softwaru v soukromém sektoru, zatímco občan zůstane v jakémsi právním limbu a bude čelit nezpochybnitelnému procesu. Algoritmus nelze podrobit křížovému výslechu ani zahanbit.

Tvrzení, že tyto systémy jsou objektivní, je také nebezpečné. Umělá inteligence neodhalí pravdu; bude procházet minulá policejní data, upevňovat minulé chyby a vymáhat je s matematickou jistotou. Historické chyby se stanou budoucími indikátory rizik.

Nikdo ve vládě netvrdí, že zavádění umělé inteligence je experiment. Infrastruktura dohledu nikdy neomrzí. Každá databáze, kamera a algoritmus vytvořený pro nejhorší pachatele se časem neúprosně stanou dostupnými pro širší využití. Dnes jsou terčem násilní nebo plodní zločinci; zítra by to mohli být organizátoři protestů nebo ti, které politická třída považuje za problém. To jsme již viděli u policejní kontroly sociálních médií a využívání nekriminálních incidentů z nenávisti . Jak lze policii důvěřovat s takovou transformační technologií?

Efektivita je poslední lež. Jakékoli domnělé snížení administrativy, lepší cílení a plynulejší procesy neospravedlňují rozšiřování státního dohledu. A v každém případě, během mého působení u policie, zavedení nových technologií nikdy nesnížilo množství byrokracie – pouze ji přeneslo ze stránky na obrazovku a často ji i zvýšilo. Rychlá nespravedlnost není pokrok.

Zavedení umělé inteligence do britských donucovacích orgánů zruší jakoukoli anonymitu ve veřejném prostoru a nahradí ji trvalou identifikovatelností. Každá cesta bude sledovatelná, každé shromáždění zaznamenatelné a každá odchylka od normy potenciálně podezřelá. Ano, to se již děje v průběhu policejního vyšetřování, ale slouží to k zjištění pohybu a chování identifikovatelných podezřelých, nikoli k obecnému monitorování celé populace.

Nejedná se o policejní dohled na základě souhlasu, jak říkají původní Peelianští principy ; jde o policejní dohled všudypřítomností a na rozdíl od sledování hollywoodského filmu nebudeme moci odejít, pokud se nám nelíbí.

Paul Birch je bývalý policista a specialista na boj proti terorismu. Jeho dílo Substack si můžete přečíst  zde