Kontrola chatu v EU: Soukromá data evropských občanů tajně končí v systémech se softwarem Palantir

Vyšetřování švédského novináře Arvida Grangeho odhaluje , že soukromé zprávy od evropských občanů, které jsou automaticky monitorovány v rámci programu EU pro monitorování chatu, končí v americkém databázovém systému využívajícím software od americké společnosti Palantir. Obzvláště pozoruhodné je, že dotazovaní poslanci Evropského parlamentu a experti na ochranu osobních údajů o tomto zapojení zjevně nevěděli.

Dočasné nařízení EU o tzv. monitorování chatu umožňuje technologickým společnostem od roku 2021 automaticky prohledávat soukromou komunikaci a vyhledávat potenciálně nelegální materiál. Původně dočasná výjimka byla od té doby dvakrát prodloužena, naposledy do dubna 2028.

Společnosti jako Google, Microsoft, Snap a Meta používají technologie ke kontrole obrázků a videí ve zprávách. Pokud je obsah klasifikován jako podezřelý, zašlou společnosti odpovídající hlášení americkému Národnímu centru pro pohřešované a zneužívané děti (NCMEC).

Jak ukazuje vyšetřování, které 13. října původně zveřejnil švédský server Dagens ETC , tyto zprávy jsou následně zpracovávány pomocí platformy pro analýzu dat Foundry od americké společnosti Palantir.

Palantir udržuje úzké vazby s americkými úřady a zpravodajskými službami. Společnost byla založena s podporou CIA.

NCMEC potvrdila používání softwaru Palantir, ale zdůraznila, že byl provozován na jejích vlastních serverech a že Palantir sám k datům neměl přístup.

Miliony soukromých souborů v amerických databázích

Podle NCMEC obsahovaly zprávy přijaté v roce 2025 celkem 61,8 milionu obrázků, videí a dalších souborů. Není známo, kolik z nich pocházelo z Evropské unie, protože zúčastněné technologické společnosti nejsou povinny tyto informace zveřejňovat. Údaje Evropské komise však ukazují, že v roce 2024 se téměř milion zpráv pro NCMEC týkal EU.

Viceprezident NCMEC John Shehan vysvětlil, že existovaly obavy, že kvůli obrovskému množství dat budou důležité informace přehlédnuty. Proto byla pro správu těchto rozsáhlých datových sad pověřena společnost Palantir.

Na svých webových stránkách NCMEC vysvětluje, že software společnosti Palantir způsobil revoluci v možnostech její databáze a pomáhá s vyhledáváním pohřešovaných dětí.

Zásady ochrany osobních údajů organizace však stanoví, že osobní údaje by měly být uchovávány po dobu nezbytně nutnou pro původní účely nebo jiné legitimní obchodní a právní povinnosti. Konkrétní dobu pro jejich vymazání však nestanoví.

Odborníci vyvracejí informace poskytnuté Evropskou komisí

Spolehlivost automatizovaných rozpoznávacích systémů je obzvláště kontroverzní.

Evropská komise tvrdí, že s nejrozšířenější technologií je na každých 50 miliard kontrolovaných kusů obsahu pouze jeden falešně pozitivní výsledek. Expert na bezpečnost dat Bart Preneel a jeho výzkumný tým však ve vlastních testech dosáhli výrazně odlišných výsledků. Podle jejich zjištění se míra chyb pohybovala od jednoho falešně pozitivního výsledku na každých 1 000 obrázků do jednoho na každých deset, v závislosti na studii.

Preneel označil prezentaci ze strany Komise za lež. Tvrdil, že někdo, kdo například posílá nahé fotografie dospělých nebo sexuální zprávy, má výrazně vyšší riziko, že bude falešně nahlášen, než někdo, kdo posílá běžné fotografie krajiny nebo auta.

Údaje od německých úřadů rovněž odhalují problémy s automatizovanou detekcí. Federální úřad kriminální policie (BKA) v roce 2024 uvedl, že 48,3 procenta hlášení, která NCMEC obdržel, nebylo trestně relevantních.

Zpráva EU rovněž zdokumentovala míru chyb ve výši 20 procent v roce 2023 a 13 procent v roce 2024 u služby Yubo.

Studie zveřejněná v březnu navíc zpochybnila spolehlivost detekčního systému PhotoDNA od společnosti Microsoft. Podle výzkumníků lze neškodné obrázky pozměnit takovým způsobem, že nevinní uživatelé budou falešně podezřelí. Naopak detekci lze obejít jednoduchými změnami obrázků, například přidáním rámečku. Takové manipulace jsou na standardním notebooku možné během několika minut.

Poslanci EU o zapojení Palantíru nic nevěděli

Německý poslanec Evropského parlamentu Lukas Sieper, který hlasoval proti nejnovějšímu rozšíření monitorování chatu, uvedl, že ho nepřekvapuje, že data budou nakonec zpracovávána v systému využívajícím software Palantir. Zapojení společnosti označil za „nejhorší noční můru George Orwella“.

Sieper obzvláště kritizoval skutečnost, že se o těchto informacích veřejně nemluvilo během parlamentních debat. Dokument EU sice uvádí, že Palantir poskytuje NCMEC technickou podporu, ale chybí mu další podrobnosti týkající se samotného zpracování dat.

Právnička na ochranu osobních údajů Laura Drechslerová a bývalý poslanec Evropského parlamentu Patrick Breyer rovněž uvedli, že o tomto zapojení nic nevědí.

Drechsler vyjádřil pochybnosti o tom, zda bylo celé zpracování údajů právně přípustné. NCMEC není na seznamu amerických organizací oprávněných přijímat osobní údaje v rámci dohody o ochraně osobních údajů mezi EU a USA. Místo toho se používá zvláštní smluvní dohoda, která má zaručit vysokou úroveň ochrany základních práv.

Kontrola chatu zůstává politicky kontroverzní

V březnu Evropský parlament jediným hlasováním odhlasoval proti komplexnímu automatizovanému sledování soukromé komunikace. Nicméně platnost příslušného nařízení byla v červenci opět prodloužena.

Členské státy EU 29. září diskutovaly o další kontrole chatu 2.0, ale nedokázaly se shodnout na společném postoji ohledně vyhledávání soukromých zpráv.

Výzkum ukazuje, že obrázky a další soubory evropských občanů, které automatizované systémy klasifikují jako podezřelé, mohou být přeneseny do americké organizace a tam zpracovány pomocí softwaru Palantir.

Prohlášení NCMEC, že Palantir nemá přímý přístup k datům, neodpovídá na dvě klíčové otázky: Proč je vůbec nutné zpracovávat soukromou komunikaci evropských občanů v americkém databázovém systému a kdy budou tyto informace trvale smazány?