Dan Frieth: Rozhodnutí proti Meta a Googlu by mohlo ukončit anonymní internet

Pokud argument „designu jako vady“ obstojí v odvolání, více než 1600 podobných případů projednávaných u soudů po celé zemi bude mít připravený plán na ukončení anonymní svobody projevu.

Porota v Los Angeles rozhodla, že společnosti Meta a YouTube jednaly při návrhu svých platforem nedbale, a přiznala žalobkyni KGM 3 miliony dolarů. Mladá žena vypověděla, že roky téměř neustálého používání sociálních médií přispívaly k depresi, úzkosti a poruchám vnímání těla. Porota přisoudila 70 % viny společnosti Meta a 30 % YouTube. Bylo také přiznáno dalších 6 milionů dolarů jako represivní odškodné.

Toto rozhodnutí je prezentováno jako milník v oblasti ochrany dětí. Představuje však také významný právní mechanismus pro omezení anonymního přístupu k internetu – otevřeně konstruovaný, s podporou napříč stranami a za účasti generálního ředitele.

Právníci KGM nezaložili svou žalobu na tom, co uživatelé zveřejnili – pro které jsou platformy do značné míry chráněny před odpovědností podle § 230 zákona o slušnosti v komunikaci – ale na tom, jak jsou tyto platformy navrženy.

Nekonečné rolování, algoritmicky vylepšená oznámení, smyčky interakce navržené tak, aby maximalizovaly dobu setrvání. Tento argument zachází s architekturou sociálních médií stejně, jako by zákon o odpovědnosti za škodu způsobenou vadným výrobkem zacházel s autem bez brzd: vadný výrobek, před kterým je třeba chránit veřejnost.

Pokud tento argument obstojí v odvolání, budou mít žalobci ve více než 1 600 podobných případech po celé zemi osvědčenou právní teorii, jak zcela obejít ochranu paragrafu 230. To by představovalo strukturální posun v právu o odpovědnosti za škodu na internetu, poháněný jak advokáty, tak stále kontroverzní akademickou debatou o dopadu sociálních médií na duševní zdraví.

Vědecký konsenzus je vskutku kontroverzní. Pojem „závislost“ zde nabývá značného právního i rétorického významu. Pokud jsou sociální média klasifikována jako droga, přístup k nim se stává regulační a lékařskou záležitostí vyžadující zásah státu. Kdo je užívá, za jakých podmínek a kdo ověřuje přístup, se stává otázkou spíše pro úřady než pro jednotlivce.

Regulace návykového produktu a regulace svobody projevu by neměly být totéž.

Dohledová infrastruktura potřebná k vynucení obou přístupů je identická: ověřování identity, kontroly přístupu a systém, který sleduje uživatele napříč všemi platformami.

To nás přivádí k tomu, co Mark Zuckerberg řekl u soudu.

Zuckerberg vypovídal před Vrchním soudem v Los Angeles více než pět hodin a při křížovém výslechu se zdál být viditelně napjatý.

Obžaloba předložila interní e-maily, včetně odhadu z roku 2015, že na Instagramu jsou 4 miliony uživatelů mladších 13 let – zhruba 30 % všech amerických dětí ve věku 10 až 12 let. Nahlas byl přečten starý e-mail od bývalého šéfa veřejné politiky Nicka Clegga: „Skutečnost, že říkáme, že na naši platformu nepovolujeme nikomu mladšímu 13 let, ale nemáme jak to vynutit, je prostě neudržitelná.“ Zuckerberg uznal pomalý pokrok: „Vždycky si přeji, abychom se k tomu dostali rychleji.“

Když byl porotě dotázán na ověřování věku, řekl, že nechápe, proč je to obtížné. Jeho navrhované řešení si zaslouží zvláštní pozornost.

Zuckerberg opakovaně argumentoval, že ověřování by nemělo probíhat v rámci jednotlivých aplikací, ale na úrovni operačního systému, spravovaného velkými technologickými společnostmi Apple a Google.

Porotě řekl, že poskytovatelé operačních systémů „mají lepší pozici k implementaci nástrojů pro ověřování věku, protože ovládají software, který pohání většinu chytrých telefonů“.

Dále vysvětlil: „Dělat to na úrovni telefonu je jednoduše mnohem čistší, než aby to dělala každá jednotlivá aplikace zvlášť.“ Dodal, že by to pro ně bylo „docela snadné“ implementovat.

Nejde o návrh pouze na ověřování věku uživatelů Instagramu. Jde o návrh na ověřování identity každého uživatele chytrého telefonu pro každou aplikaci na úrovni operačního systému.

To platí pro každou aplikaci nainstalovanou v zařízení, každou webovou stránku přístupnou prostřednictvím prohlížeče a každou zprávu odeslanou prostřednictvím jakékoli aplikace.

Zuckerberg tento návrh učinil na svědecké lavici, čímž zároveň vyřešil svůj vlastní právní problém. Pokud Apple a Google převezmou ověřování věku, platformy jako Meta za něj již nebudou zodpovědné.

Odpovědnost se přesouvá na Cupertino a Mountain View. Dvě společnosti, které jsou již pod antimonopolním dohledem kvůli své kontrole nad distribucí aplikací, by získaly novou autoritu jako strážci identity na internetu.

Muž tak pod přísahou a pod tlakem vyjádřil ostře podporu národní vrstvě digitální identifikace, která je zabudována do dvou operačních systémů, jež pohánějí většinu chytrých telefonů po celém světě.

Zákonodárci toho využijí. Infrastruktura se již buduje. Kalifornský zákon SB 976 nařizuje systémy ověřování věku pro sociální média v celém státě s implementačními pravidly do ledna 2027.

Devátý obvodní soud dosud odmítl rozhodnout, zda tyto požadavky porušují první dodatek ústavy, dokud nebudou předpisy finalizovány.

Ověřování věku pro legální online vyjádření názoru v Kalifornii postupuje bez jakéhokoli ústavního upřesnění.

Zákon o bezpečnosti dětí na internetu, který je v současné době celostátně projednáván, by úřadům nařídil vyvinout ověřování na úrovni zařízení nebo operačního systému – přesně ten model, který Zuckerberg u soudu prosazoval.

Zákon SAFE For Kids Act v New Yorku umožňuje analýzu obličeje jako alternativu k předložení občanského průkazu a také shromažďování biometrických údajů pro získání přístupu k sociálním médiím.

Tyto zákony vyžadují databáze identit. Databáze identit jsou napadány hackery. Incident související s Discordem v loňském roce odhalil přibližně 70 000 vládou vydaných dokladů totožnosti odeslaných prostřednictvím systému podpory třetí strany – útočníci tvrdili, že toto číslo je vyšší. Každé ověření identity vytváří budoucí bezpečnostní zranitelnost.

Anonymní a pseudonymní vyjadřování názorů na internetu chrání skutečné lidi: oznamovatele, oběti zneužívání, politické disidenty, osoby zkoumající lékařské problémy nebo identity, které si zatím nepřejí spojovat se svým oficiálním jménem, ​​a novináře chránící své zdroje.

Povinné ověřování identity na úrovni operačního systému tomuto všemu učiní konec. Uvedeným cílem je chránit děti před Instagramem. Tento mechanismus ukončí anonymní přístup k internetu pro každého dospělého s chytrým telefonem.

Mezitím tento týden samostatná porota v Novém Mexiku shledala, že Meta porušila zákony na ochranu spotřebitele, a uložila pokutu ve výši 375 milionů dolarů poté, co generální prokurátor Raúl Torrez postavil případ na platformách, kde se vydával za děti a dokumentoval sexuální kontakt.

Porota dospěla k závěru, že se Meta dopouštěla ​​„bezskrupulózních“ obchodních praktik a učinila nepravdivá nebo zavádějící prohlášení týkající se ochrany dětí.

Meta uvedla, že „s verdiktem nesouhlasí a odvolá se“ a dodala: „Usilovně pracujeme na ochraně lidí na našich platformách a jsme transparentní ohledně výzev spojených s identifikací a odstraňováním škodlivých aktérů nebo obsahu. Budeme se i nadále důrazně bránit a budeme si i nadále věřit v naše výsledky v oblasti ochrany mladých lidí online.“

Pokuta ve výši 375 milionů dolarů je jen zlomkem z 201 miliard dolarů, které společnost Meta v roce 2025 dosáhla.

Spojení mezi těmito rozhodnutími a architekturou dohledu prochází jediným slovem: „závislost“. Po této klasifikaci následuje stav nouze v oblasti veřejného zdraví. Po stavu nouze následují zvláštní pravomoci. Po zvláštních pravomocích následuje ověřování věku. Po ověření věku následují kontroly identity na úrovni operačního systému. Každý krok je prezentován jako ochrana dětí. Vznikne tak systém dohledu pro všechny – pokud si dostatek lidí neuvědomí, co se zde buduje.

Dan Frieth