Regulace AI: Přichází ID obličeje

Parlament, Rada a Komise se dohodly na nařízení o umělé inteligenci. Navzdory údajným bezpečnostním opatřením má být nyní v celé Evropě zavedeno automatické rozpoznávání obličeje. To je pro demokracii špatné, říká Markus Reuter .

Automatické rozpoznávání obličeje je v podstatě tak, že všichni máme na obličeji jasně viditelné ID. Ať už nakupujete, nastupujete do vlaku nebo se účastníte demonstrace: jakmile bude zavedena biometrická technologie, můžeme být všude identifikováni pomocí údajů o našem těle a našeho skutečného jména. S dohodou o evropské regulaci AI jsme se o velký krok přiblížili této temné dystopii budoucnosti bez anonymity ve veřejném prostoru.

I když bylo zabráněno horšímu, není důvod k oslavám: nový právní rámec v zásadě umožňuje státům porovnávat sledovací videa v reálném čase s databázemi obličejů, aby se zabránilo teroristickým útokům nebo v určitých případech hledaly pohřešované osoby a podezřelé . Tato technologie může být použita v reálném čase k vyhledávání, skenování a identifikaci kohokoli, pro koho má stát sledovací kameru a uloženou biometrickou fotografii.

Většina evropských zemí již roky buduje a dokončuje biometrické obličejové databáze jako součást svých pasových nebo vstupních požadavků. Obrázky jsou k dispozici a předchozí federální vlády neustále podporovaly jejich automatizované použití. Odtud je už jen malý krůček k používání rozpoznávání obličeje mimo letiště a pasové kontroly.

Někteří kritici regulace AI tvrdí, že monitorování v reálném čase podléhá přísným kritériím. Ale to je jen výmluva: Zákon umožňuje rozpoznání obličeje i zpětně s podstatně menším omezením – totiž při prohledávání podezřelých ze „závažných trestných činů“, jak uvádí soudní rozhodnutí. Seznam těchto zločinů je dlouhý a každý aktivista za občanská práva ví, jak málo stojí výhrada soudce. A co ve skutečnosti znamená „po faktu“ ve srovnání s „okamžitě“, také není jasné. Hranice budou rozmazané. Zkušenosti s jinými technikami sledování, jako je uchovávání dat, ukazují, že sledování, které se zpočátku vždy týkalo terorismu a závažné trestné činnosti, se rozšiřuje i na malé obchodníky s konopím a dokonce i na jejich zákazníky.

To povede k celoevropskému rozpoznávání obličejů

V každém případě je jasné, že legislativa AI je hlavní branou k širokému přijetí automatického rozpoznávání obličejů. Nyní existuje evropský právní základ pro použití této technologie všude. Protože zákon je nyní v určitých případech umožňuje. Policie a tajné služby jako vždy vyčerpají zákonné možnosti na maximum a použijí salámovou taktiku k další normalizaci operace a při každé příležitosti budou volat po ještě „inteligentnější technologii“.

Objevuje se budoucnost, ve které nikdo nemůže sedět v parku nebo se pohybovat po městě, aniž by hrozilo, že jeho obličejové nebo jiné biometrické údaje budou neustále kontrolovány a porovnávány. Pocit neustálého sledování ovlivňuje i další citlivá základní práva, jako je svoboda shromažďování. Technologie zastaví lidi v protestech proti vládám, když bude jasné, že je teoreticky technicky možné vytvořit seznamy účastníků takových protestů stisknutím tlačítka.