Britská policie testuje systém umělé inteligence pro vytváření osobních profilů na základě citlivých údajů z 80 zdrojů

Nový výkonný policejní nástroj transformuje každodenní data do komplexního obrazu života lidí.

Britské policejní sbory začaly od americké technologické společnosti získávat software pro umělou inteligenci, který kombinuje citlivé osobní údaje, jako je etnická příslušnost, zdravotní stav, politické názory, náboženské vyznání, sexualita a členství v odborech, do jednotné informační platformy.

Uniklá interní zpráva policie Bedfordshire, zveřejněná v rámci zákona o svobodném přístupu k informacím, odhaluje plány na zavedení systému Nectar i po pilotní fázi.

Platforma Nectar, vyvinutá ve spolupráci se společností Palantir Technologies, konsoliduje přibližně 80 datových toků, od dopravních kamer až po zpravodajské soubory, do jedné platformy. Jejím deklarovaným cílem je vytvářet podrobné profily podezřelých a podporovat vyšetřování zahrnující oběti, svědky a zranitelné skupiny, včetně nezletilých.

Liberty uvádí, že 34stránkový briefing zdůrazňuje, že policejní představitelé doufají v rozšíření používání softwaru z Bedfordshire a Východoregionální jednotky pro závažný organizovaný zločin na národní úroveň. Systém by mohl zlepšit prevenci kriminality a účinněji chránit zranitelné osoby.

Tento krok je součástí širší vládní iniciativy zaměřené na aplikaci umělé inteligence ve všech veřejných službách, včetně zdravotnictví a obrany, často prostřednictvím partnerství soukromého sektoru, jako je toto.

Používání Nectaru, který přistupuje k jedenácti „speciálním kategoriím“ dat, však vyvolalo obavy mezi zastánci soukromí a některými zákonodárci. Mezi tyto kategorie patří etnická příslušnost, sexuální orientace, politické názory a členství v odborech.

Ačkoli Palantir a policie v Bedfordshire zdůrazňují, že Nectar používá pouze informace, které jsou již uložené ve stávajících databázích orgánů činných v trestním řízení, a zůstává nepřístupný pro nepolicisty, obavy přetrvávají. Existují obavy z možného zneužití, jako je ukládání dat bez řádných postupů pro jejich smazání, a riziko, že nevinné osoby by mohly být označeny algoritmy určenými k identifikaci zločineckých sítí.

Bývalý stínový ministr vnitra David Davis vyjádřil znepokojení časopisu I Magazine , vyzval k parlamentní kontrole a varoval, že „nulový dohled“ by mohl vést k tomu, že si policie „uchvátí pravomoci, které chce“.

Liberty a další aktivisté také zpochybnili, zda je Nectar skutečně nástrojem hromadného sledování schopným vytvářet detailní „360stupňové“ profily jednotlivců.

Mluvčí policie v Bedfordshire následně vysvětlil, že iniciativa byla „průzkumným cvičením“, které se zaměřovalo na data získaná legálně a bezpečně zpracovaná.

Systém urychluje zpracování případů a podporuje intervence v případech zneužívání nebo vykořisťování, zejména u dětí. Společnost Palantir dodala, že během prvních osmi dnů od spuštění pomohl Nectar identifikovat více než 120 potenciálně zranitelných mladých lidí a usnadnil uplatňování oznámení podle zákona Clare’s Law.

Společnost Palantir, která vyvinula Nectar na základě své datové platformy Foundry, zdůrazňuje, že její software nezavádí prediktivní policejní práci ani rasové profilování a nepřidává data nad rámec toho, co policie již shromažďuje. Společnost tvrdí, že její role je omezena na organizaci dat, nikoli na rozhodování.

Odborníci jsou nicméně velmi znepokojeni.

Ačkoli celostátní zavedení dosud nebylo schváleno, ministerstvo vnitra potvrzuje, že zjištění pilotního projektu budou ovlivňovat budoucí rozhodnutí. Vzhledem k tomu, že se nástroje umělé inteligence ze soukromého sektoru stále více integrují do policejní práce, otázky týkající se dohledu, transparentnosti, mazání údajů a individuálních práv se stávají stále naléhavějšími.