Konec anonymity: Umělá inteligence dokáže rekonstruovat vaši identitu z neškodných internetových stop

Komentář k filmu, názvu kavárny, městu, koníčku nebo povolání: Samy o sobě takové informace prozrazují jen málo. Nová studie však ukazuje, že umělá inteligence z nich dokáže sestavit překvapivě přesný digitální otisk prstu.

Výzkumníkům se podařilo pomocí rozsáhlých jazykových modelů propojit více než polovinu z 987 pseudonymních uživatelů Hacker-News s jejich skutečnou identitou . Zřejmé indicie, jako jsou osobní webové stránky, názvy sociálních médií a přezdívky na GitHubu, byly předem odstraněny.

Cena experimentu: pouhých 2 000 dolarů, neboli jeden až čtyři dolary za profil .

55 procent identifikováno – z 89 000 uživatelů

Výzkumníci zanechali zdánlivě neškodné informace: jména kolegů, institucí a místních podniků, místa bydliště, zájmy, demografické informace a technické dovednosti.

Umělá inteligence tyto informace zkombinovala a mezi 89 000 uživateli vyhledala vhodné shody. Výsledek: S přesností 90 procent bylo identifikováno 55,2 procenta vyhledaných profilů. S přesností 99 procent stále identifikovala 45,1 procenta.

Starší metoda statistické deanonymizace dosáhla se stejnými daty pouze 0,1 procenta.

Zásadní rozdíl: Co dříve vyžadovalo časově náročnou detektivní práci, lze nyní automatizovat umělou inteligencí a provádět s extrémně nízkými náklady.

Čím více toho odhalíte, tím snáze vás umělá inteligence najde

Další experiment s uživateli Redditu ukázal, že i zdánlivě triviální informace o filmových preferencích mohou přispět k identifikaci. Čím více někdo publikuje, tím unikátnější se jeho digitální profil stává.

Výzkumníci shrnují princip jednoduše: město, profese, účast na konferenci nebo specializovaný koníček zužují okruh možných jedinců. Tato kombinace se může stát jedinečným otiskem prstu.

I velikost platformy nabízí jen omezenou ochranu. Výzkumníci odhadují, že jejich metoda by stále mohla najít přibližně 45 procent hledaných osob v souboru jednoho milionu lidí a asi 27 procent v teoretickém souboru 100 milionů kandidátů.

Výkonný nástroj pro dohled

Důsledky jsou značné. Vlády by mohly tyto metody využít k propojení pseudonymních účtů novinářů, disidentů nebo aktivistů se skutečnými lidmi. Společnosti a zprostředkovatelé dat by mohli propojovat profily napříč různými platformami.

K tomu nikdo nemusí hackovat databáze: Studie použila výhradně veřejně dostupné informace, které sami uživatelé zveřejnili.

Dokonce i bezpečnostní filtry systémů umělé inteligence mohou nabízet jen malou ochranu. Útok lze rozdělit na zdánlivě neškodné úkoly – shrnutí profilů, porovnání dokumentů, hodnocení kandidátů. Navíc u modelů s otevřeným zdrojovým kódem lze ochranné mechanismy odstranit.

Digitální identifikace problém zhoršuje

Tento vývoj se stává obzvláště explozivním ve světle digitálních identit a online ověřování věku. Často se slibuje, že uživatelé mohou prokázat svou identitu jednou a poté zůstanou pseudonymní.

Pokud ale umělá inteligence již dokáže identifikovat osobu na základě jím publikovaného obsahu, toto rozlišení se stává stále křehčím. Studie nedokazuje, že digitální identifikační údaje automaticky odhalují anonymní profily. Ukazuje však, jak snadno lze nyní rozptýlené online stopy kombinovat a vytvářet tak identitu v reálném světě.

Nebezpečí tedy nespočívá ve velké krádeži dat, ale v tisících malých detailů, které lidé v průběhu let dobrovolně zveřejnili. Dříve byly tyto stopy roztroušeny po internetu. Dnes je umělá inteligence dokáže dát dohromady za pár dolarů – dokud se za pseudonymem neobjeví skutečné jméno.