Zákon EU o umělé inteligenci legalizuje biometrické hromadné sledování
EU není majákem ochrany údajů, za který se vydává.
2. únor znamenal první termín pro dosažení souladu se zákonem EU o umělé inteligenci, který vstoupil v platnost v srpnu. Jedná se o ustanovení, která EU umožňují legalizovat biometrické hromadné sledování.
Děje se tak prostřednictvím článku 5, který především poskytuje záruky proti používání systémů umělé inteligence, které představují „nepřijatelné riziko“. Existují však i výjimky, které jsou v zákoně definovány jako „nezbytně nutné“, kdy je použití takových systémů povoleno.
To vedlo k obavám, že jedním z důsledků zákona o AI by mohla být legalizace některých vysoce kontroverzních aplikací biometrického hromadného sledování.
Článek 5 zakazuje používání biometrických systémů dálkového rozpoznávání v reálném čase orgány činnými v trestním řízení na veřejných prostranstvích – ale pouze „pokud a v rozsahu, kdy takové použití není nezbytně nutné“.
Případy, kdy orgány činné v trestním řízení pátrají po „konkrétních obětech“ trestných činů, jako je únos, obchodování s lidmi a sexuální vykořisťování, jakož i při pátrání po pohřešovaných osobách, jsou označovány za „nezbytně nutné“.
Druhá definice je méně přesná, protože umožňuje použití sledovacích systémů AI k prevenci kriminality. To zahrnuje ohrožení života nebo fyzické integrity osob klasifikované jako „konkrétní, významné a bezprostřední“ nebo hrozbu teroristického útoku, které je donucovacími orgány klasifikováno jako „skutečné a současné“, ale také „skutečné a předvídatelné“.
Konečně zákon o AI považuje následující činnosti za „zcela nezbytné“, aby je vyloučil ze zakázaných činností AI: „umístění nebo identifikace osoby podezřelé ze spáchání trestného činu za účelem vedení trestního vyšetřování nebo stíhání nebo výkonu trestního postihu za trestný čin“.
Tyto trestné činy jsou uvedeny v příloze II a v členských státech EU se trestají sazbou s horní hranicí trestní sazby nejméně čtyři roky.
Jinými slovy, ustanovení umožňují celou řadu „nezbytně nutných“ scénářů a výkladů, které by umožnily hromadné biometrické sledování.
Aby EU usnadnila vymáhání práva, vyvinula „Pakt AI“ – další „dobrovolný závazek“ EU, který podepsalo více než 100 společností, včetně Amazonu, Google a OpenAI – nikoli však Meta a Apple.
Někteří pozorovatelé poukazují na to, že společnosti kritizující legislativu očekávají jasnost norem a pokynů.
