Soukromí pro mocné, dohled pro ostatní: Plánovaný rámec EU pro regulaci technologií zachází příliš daleko

Minulý měsíc jsme kritizovali kalifornský zákon Frontier AI Act z roku 2025. Zákon upřednostňuje formální dodržování předpisů před skutečným řízením rizik a chrání byrokraty a zákonodárce před odpovědností. A co je nejdůležitější, prosazuje regulační standardy shora dolů, místo aby umožňoval občanské společnosti a odborníkům z oboru testovat a rozvíjet etické standardy zdola nahoru.

Tento zákon by se dal zavrhnout jako další příklad kalifornských intervenčních tendencí. Někteří američtí politici a regulátoři však již volají po tom, aby sloužil jako „šablona pro harmonizaci federálního a státního dohledu“. Druhým zdrojem takové šablony by byla Evropská unie (EU) – což je tedy dostatečný důvod k tomu, abychom bedlivě sledovali nařízení z Bruselu.

EU je již nyní v prosazování problematické regulace shora dolů daleko před Kalifornií. Zákon EU o umělé inteligenci z roku 2024 se ve skutečnosti řídí obecnou zásadou předběžné opatrnosti EU. Jak vysvětluje interní think tank Evropského parlamentu: „Zásada předběžné opatrnosti umožňuje tvůrcům politik přijímat preventivní opatření, když jsou vědecké důkazy o environmentálních nebo zdravotních rizicích nejisté a v sázce je hodně.“ Tato zásada dává EU obrovskou pravomoc regulovat v nejistotě – spíše než aby umožňovala experimentování v rámci pokut a odpovědnosti (jako v USA). Dusí etické učení a inovace. Kvůli zásadě předběžné opatrnosti a související regulaci trpí ekonomika EU vyšší koncentrací trhu, vyššími regulačními náklady a sníženými inovacemi – ve srovnání s prostředím, které umožňuje experimentování a řádné řízení rizik. Není divu, že pouze čtyři z 50 největších technologických společností světa sídlí v Evropě.

Od potlačených inovací k potlačenému soukromí

Kromě principu předběžné opatrnosti je druhou hnací silou regulace EU vymáhání práv – byť prostřednictvím selektivního výběru z Listiny základních práv EU, přičemž tato práva si často střetávají. Například obecné nařízení o ochraně osobních údajů (GDPR) z roku 2016 bylo zavedeno s cílem zajistit základní právo na ochranu osobních údajů (technicky oddělené od práva na soukromí, které EU poskytuje podstatně větší intervenční pravomoci – téma pro odborné časopisy). GDPR v konečném důsledku omezilo právo na ekonomickou svobodu.

Tentokrát jsou základní práva používána k ospravedlnění přístupu EU k boji proti sexuálnímu zneužívání dětí. Všichni si ceníme základních práv a všichni zneužívání dětí odsuzujeme. Přesto byla základní práva v průběhu let používána jako tupá, ale mocná zbraň k rozšíření regulačních pravomocí EU. Navrhované nařízení o boji proti sexuálnímu zneužívání dětí (CSA) není výjimkou. Výjimečný je však rozsah tohoto narušení: EU navrhuje monitorovat komunikaci evropských občanů a bez rozdílu s ní zacházet jako s potenciálními hrozbami, spíše než jako s chráněným projevem s prima facie právem na soukromí.

Od 26. listopadu 2025 byrokracie EU jedná o detailech zákona CSA. Nejnovější návrh naštěstí – alespoň formálně – ruší povinné prověřování soukromé komunikace. Je tu však háček. Poskytovatelé hostingových a interpersonálních komunikačních služeb musí identifikovat, analyzovat a posoudit, jak by jejich služby mohly být zneužity k online sexuálnímu zneužívání dětí, a poté podniknout „veškerá vhodná nápravná opatření“. Vzhledem k tak neomezenému mandátu a hrozbě odpovědnosti by mnoho poskytovatelů mohlo dojít k závěru, že nejbezpečnějším – a právně nejrozumnějším – způsobem, jak prokázat soulad s předpisy EU, je rozsáhlé prověřování soukromé komunikace.

Návrh dohody o společné hospodářské spolupráci (CSA) trvá na tom, že nápravná opatření by měla být pokud možno omezena na konkrétní části služby nebo konkrétní skupiny uživatelů. Struktura pobídek však ukazuje jiný směr. Komplexní monitorování by se mohlo ukázat jako jediná schůdná možnost pro dodržování předpisů. To, co se dnes prezentuje jako dobrovolné, riskuje, že se zítra stane faktickou povinností.

Slovy dánského ministra spravedlnosti Petera Hummelgaarda: „Každý rok jsou sdíleny miliony souborů zobrazujících sexuální zneužívání dětí. A za každým jednotlivým obrázkem a videem stojí dítě, které bylo vystaveno nejhroznějšímu a nejkrutějšímu zneužívání. To je naprosto nepřijatelné.“ Nikdo nezpochybňuje závažnost ani zavrženíhodnost problému. A přesto se v rámci tohoto narativu očekává, že telekomunikační průmysl a evropští občané přijmou nebezpečná opatření ke zmírnění rizik, která pravděpodobně povedou ke ztrátě soukromí občanů a rozsáhlým sledovacím pravomocím státu.

Říká se, že náklady nejsou nic ve srovnání s výhodami.

A konečně: Kdo by nechtěl bojovat proti sexuálnímu zneužívání dětí? Je nejvyšší čas se zhluboka nadechnout. Zneužívatelé dětí by měli být přísně potrestáni. To však nezbavuje svobodnou společnost povinnosti respektovat další základní hodnoty.

Ale počkejte – je toho víc…

Komplexní dohled? No, ne tak docela komplexní

Navzdory morálnímu imperativu ochrany dětí – imperativu tak silnému, že je EU připravena kvůli němu slevit z jiných základních hodnot – návrh zákona o ochraně dětí (CSA) zavádí praktickou výjimku. Vše, co spadá pod národní bezpečnost, stejně jako všechny elektronické komunikační služby, které nejsou veřejně přístupné (tj. pouze pro volené úředníky a byrokraty), zůstanou zcela nedotčené. Budou monitorovány soukromé chaty občanů – ale nikoli konverzace těch, kteří tvrdí, že nás chrání.

Jak řekl ministr: „Za každým jednotlivým obrázkem a videem je dítě, které bylo vystaveno nejhroznějšímu a nejkrutějšímu zneužívání.“ Pokud se to týká „každého jednotlivého obrázku a videa“, proč by se to nemělo vztahovat i na zprávy chráněné výjimkami pro národní bezpečnost a neveřejné služby? Zmizí nějak hrůza, když jsou uživateli politici nebo byrokraté? Stane se nepřijatelné najednou přijatelným, když ovlivní ty, kdo píší pravidla?

V hierarchii práv EU je ochrana dětí nad soukromím. Ochrana eurokratů však převyšuje ochranu dětí. Moderní technologie v konečném důsledku dávají politikům nebývalé možnosti monitorovat občany – zatímco sami se kontrole vyhýbají.

Pokud víme, v USA zatím neprobíhají žádné diskuse o zavedení podobných opatření. Ale od daní z bohatství přes regulaci umělé inteligence až po původ amerického byrokratického státu mají špatné nápady z Evropy neblahý zvyk najít si cestu přes Atlantik.

Autor: Elen Irazabal Arana a Nikolai G. Wenzel prostřednictvím TheDailyEconomy.org