Zuckerbergovo „řešení“ pro bezpečnost dětí by mohlo ukončit anonymní přístup k internetu pro všechny

Zuckerberg strávil pět hodin obhajobou designových rozhodnutí Instagramu – a opustil soudní síň poté, co zákonodárcům a regulačním orgánům předložil svůj preferovaný plán pro národní systém digitální identity.

Mark Zuckerberg strávil ve středu více než pět hodin na svědecké lavici u vrchního soudu v Los Angeles, kde poprvé svědčil před porotou o obviněních, že společnost Meta záměrně navrhla Instagram tak, aby byl pro děti návykový.

Titulkem většiny zpráv byla podívaná: anotovaná řada interních e-mailů, 10 metrů dlouhá koláž příspěvků žalobce na Instagramu odhalená v soudní síni a generální ředitel, který se při křížovém výslechu jevil viditelně podrážděně.

Důležitější je, k čemu bude středeční shrnutí využito.

Soudní proces je prezentován jako případ na ochranu dětí. Ve skutečnosti však pokládá politické a právní základy pro povinné ověřování identity na celém internetu – zejména prostřednictvím Zuckerbergových vlastních prohlášení.

A místo toho, aby toto rozhodnutí zamítl, Zuckerberg soudu nabídl svůj preferovaný implementační plán.

Rámec „závislosti“ a co umožňuje

Žalobu podala žalobkyně KGM, které je nyní 20 let. Tvrdí, že s Instagramem začala v 9 letech a že design platformy ji na něm udělal závislou, zhoršil její duševní zdraví a přispěl k úzkosti, tělesné dysmorfii a sebevražedným myšlenkám.

TikTok a Snapchat dosáhly dohody ještě před zahájením soudního procesu. Meta a YouTube, společnost Google, zůstávají žalovanými. V celé zemi je projednáváno přes 1600 souvisejících případů. To je velký byznys. Rozhodnutí v tomto případě by mohlo vytvořit precedent pro všechny tyto případy.

Případ se opírá o kontroverzní vědecký předpoklad: že sociální média jsou klinicky návyková a že tato závislost způsobuje měřitelnou škodu. Tento předpoklad je základem právní strategie, mediální pokrytí a výsledné politické agendy. Zaslouží si bližší zkoumání, než jaké mu v současnosti věnuje většina zpráv.

Věda je skutečně kontroverzní a pokud chcete vážně pochopit, jak tato tvrzení vznikají a jsou zneužívána, podrobně jsme o tom diskutovali v nedávném článku.

Nic z toho neznamená, že údajná újma je vykonstruovaná. Znamená to, že slovo „závislost“ vykonává významnou rétorickou a právní práci – a že politické důsledky plynoucí z tohoto slova sahají daleko za rámec toho, co rozhodne porota v Los Angeles.

„Závislost“ je cesta k ohrožení veřejného zdraví. Ohrožení veřejného zdraví je cesta k nouzovým opatřením a k tomu, aby ústavní ochrana byla snadněji obcházena. Nouzová opatření na internetu znamenají povinné kontroly přístupu. A povinné kontroly přístupu na internetu znamenají konec anonymního a pseudonymního projevu.

Pokud jsou sociální média klasifikována jako droga, přístup k nim se stává lékařskou a regulační otázkou. Kdo je užívá, jak a za jakých podmínek se stává otázkou pro úřady spíše než pro jednotlivce. Regulace návykového produktu a regulace projevu vypadají na papíře odlišně. Mechanismy potřebné k vynucování obou vypadají v praxi identicky: ověřování identity, kontroly přístupu a architektura sledování, která sleduje uživatele na všech platformách a zařízeních.

Objížďka kolem sekce 230

Struktura žaloby si zaslouží samostatné posouzení. Paragraf 230 zákona o slušnosti v komunikaci z roku 1996 již dlouho chrání platformy před odpovědností za obsah generovaný uživateli. Právníci žalobce našli způsob, jak to obejít: argumentují, že samotná platforma je vadný produkt. Obvinění se netýká obsahu generovaného uživateli, ale spíše designových voleb: nekonečného rolování, automatického přehrávání, algoritmicky vylepšených oznámení a filtrů krásy ve spojení s tělesnou dysmorfií. Žaloba s těmito prvky zachází jako s autem bez brzd.

Rozhodnutí ve prospěch KGM by poskytlo žalobcům v dalších 1 600 případech osvědčenou právní teorii, která by zrušila ochranu rozhodnutí o designu platformy podle § 230. Jedná se o významnou restrukturalizaci práva odpovědnosti za internet, kterou pohánějí advokáti a která zneužívá krizi duševního zdraví, jejíž příčiny jsou stále aktivně diskutovány v akademických časopisech.

Zuckerberg byl konfrontován s interními dokumenty, včetně odhadu z roku 2015, že na Instagramu jsou 4 miliony uživatelů mladších 13 let, což je zhruba 30 procent všech amerických dětí ve věku 10 až 12 let. Nahlas byl přečten starý e-mail od bývalého šéfa veřejné politiky Nicka Clegga: „Skutečnost, že říkáme, že na naši platformu nepovolujeme nikomu mladšímu 13 let, ale nemáme jak to vynutit, je prostě neobhajitelná.“ Zuckerberg uznal pomalý pokrok: „Vždycky si přeji, abychom se k tomu dostali dříve.“

Také porotě řekl: „Nechápu, proč je to tak složité,“ když byl dotázán na zásady společnosti pro ověřování věku. Jeho navrhovaná odpověď na tuto otázku je jádrem problému.

Zuckerbergův plán: Apple a Google by měly ověřovat totožnost každého.

Zuckerberg během své výpovědi několikrát argumentoval, že ověřování věku by mělo být řešeno na úrovni operačního systému společnostmi Apple a Google, nikoli jednotlivými aplikacemi. Porotě řekl, že poskytovatelé operačních systémů „jsou v lepší pozici k implementaci nástrojů pro ověřování věku, protože ovládají software, na kterém běží většina chytrých telefonů“.

„Dělat to na úrovni telefonu je jednoduše mnohem čistší, než aby to dělala každá jednotlivá aplikace zvlášť,“ řekl. Dodal, že „by pro ně bylo docela snadné“ to implementovat.

Všimněte si toho. Zuckerberg nenavrhuje, aby Instagram ověřoval věk svých uživatelů. Navrhuje, aby Apple a Google ověřovaly identitu každého uživatele smartphonu pro každou aplikaci na úrovni operačního systému. Jakmile tato infrastruktura bude existovat, nebude omezena pouze na sociální média. Bude se vztahovat na každou aplikaci v telefonu. Na každou webovou stránku, ke které se přistupuje prostřednictvím prohlížeče daného telefonu. Na každou komunikaci odeslanou prostřednictvím jakékoli aplikace v zařízení.

To je víc než jen ověření věku. Je to vrstva národní digitální identity, zabudovaná do dvou operačních systémů, které pohánějí drtivou většinu chytrých telefonů po celém světě.

Návrh také řeší Zuckerbergův bezprostřední právní problém. Pokud se ověřováním věku budou zabývat Apple a Google, platformy jako Meta za něj již nenesou odpovědnost. Odpovědnost se přesouvá. Společnost, která je žalována v Los Angeles, přesouvá své hlavní obvinění na Cupertino a Mountain View.

Kdo bude rozhodovat o tom, které aplikace vyžadují ověření identity, jakmile tato infrastruktura bude existovat? Apple a Google. Ti by byli nasazeni jako strážci identity na internetu. Dvě soukromé společnosti, které jsou již nyní vystaveny vážnému antimonopolnímu dohledu kvůli své kontrole nad distribucí aplikací, by získaly novou pravomoc nad tím, kdo co může online používat a pod jakou identitou.

Regulační architektura je již ve výstavbě.

Zuckerbergův návrh na ověřování na úrovni operačního systému bezproblémově zapadá do legislativní agendy, která probíhala již před jeho středečním vystoupením.

Kalifornský zákon SB 976, „Ochrana našich dětí před závislostí na sociálních sítích“, nařizuje v tomto státě systémy ověřování věku pro sociální sítě. Kalifornský generální prokurátor musí dokončit prováděcí pravidla do ledna 2027.

Devátý odvolací soud odmítl rozhodnout o tom, zda tyto požadavky porušují první dodatek ústavy, s tím, že nemůže posoudit ústavní otázku, dokud nebudou předpisy finalizovány. Ověřování věku pro zákonný online projev v Kalifornii probíhá bez ústavního objasnění.

Zákon o bezpečnosti dětí na internetu (KOSA), který je v současné době projednáván na federální úrovni, by úřadům nařídil vyvinout ověřování věku na úrovni zařízení nebo operačního systému – přesně ten rámec, který Zuckerberg prosazoval na lavici svědků.

KOSA také obsahuje široké definice „škodlivého“ obsahu, čímž podřizuje rozhodnutí o moderování vlivu státu bez nezávislého přezkumu. Ověřování věku a omezení obsahu jsou sloučeny v jednom zákoně, přičemž kritéria škodlivosti definuje samotná vláda.

Zákon SAFE For Kids Act státu New York omezuje algoritmické kanály pro uživatele, kteří neprovedou ověření věku. Analýza obličeje pro odhad věku je považována za přijatelnou alternativu k předložení průkazu totožnosti vydaného vládou. Biometrické údaje se shromažďují pouze za účelem procházení kanálů sociálních médií.

Infrastruktura vyžadovaná těmito zákony generuje data, která lze ukrást, vyžádat si je na základě soudního příkazu a propojit. Únik dat na Discordu v loňském roce odhalil vládou vydané doklady totožnosti odeslané prostřednictvím systému ověřování věku společnosti – bylo jich přibližně 70 000, ačkoli útočníci tvrdili, že toto číslo je vyšší. Každá databáze pro ověřování identity je budoucí bezpečnostní zranitelností, která čeká na zneužití.

Anonymní a pseudonymní projevy na internetu mají skutečnou hodnotu. Informátoři. Oběti zneužívání. Političtí disidenti v nepřátelském prostředí. Lidé zkoumající zdravotní problémy nebo identity, které zatím nechtějí spojovat se svým oficiálním jménem. Novináři chránící své zdroje. Každý, jehož bezpečnost závisí na oddělení online přítomnosti od oficiální identity.

Povinné ověřování identity na úrovni operačního systému ukončuje toto vše pro všechny. Uvedeným cílem je chránit devítileté děti před Instagramem. Tento mechanismus ukončuje anonymní přístup k internetu pro každého dospělého, který vlastní telefon.

Zuckerberg pod přísahou a pod tlakem vyjádřil tomuto mechanismu velkou podporu. Jeho právníci ho využijí k odvrácení odpovědnosti. Zákonodárci se na něj budou odvolávat na zasedáních výborů. Proces v Los Angeles se objeví v legislativních shrnutích jako důkaz naléhavé potřeby jednat.

Slovo „závislost“ zahájilo tento řetězec. Stav nouze v oblasti veřejného zdraví, nouzová opatření, ověřování věku, kontroly identity na úrovni operačního systému. Každý krok navazuje na předchozí. Každý krok je prezentován jako ochrana dětí.

Soudní proces pokračuje. Očekává se, že KGM bude v průběhu řízení vypovídat později.

Dan Frieth