Austrálie rozšiřuje svůj systém digitálního dohledu – nyní se tento model má zavést po celém světě

Austrálie si klade za cíl zavést svou novou „digitální povinnost péče“ nejen v tuzemsku, ale i v zahraničí. Ministryně komunikací Anika Wellsová již jedná s vládami Kanady, Nového Zélandu, Švédska, Malajsie a Filipín. Oficiálně je cílem zlepšit online bezpečnost. Ve skutečnosti navrhovaná legislativa nutí platformy k pečlivějšímu sledování obsahu a uživatelů, hrozí pokutami až do výše 109,2 milionu australských dolarů a motivuje je k opatrnosti a mazání většího množství obsahu, nikoli jeho menšího.

Wellsová se netají mezinárodním zaměřením. Agentuře Bloomberg řekla, že globální technologické společnosti jsou tak mocné a vynalézavé, že je k jejich boji zapotřebí mezinárodní koalice zákonodárců. Austrálie má v úmyslu sloužit jako vzor.

Návrh zákona byl parlamentu předložen v polovině října. Jeho cílem je zavázat sociální sítě, vyhledávače, herní platformy, aplikace a dokonce i chatboty s umělou inteligencí k přijetí „vhodných opatření“ proti vážným online škodám. Co zpočátku zní jako ochrana spotřebitele, se stává problematickým, jakmile stát definuje, který obsah je považován za škodlivý, a platformy čelí milionovým pokutám za porušení.

Stát nemusí cenzurovat každý jednotlivý příspěvek sám

Rozhodující mechanismus je spíše nepřímý.

Platformy vědí, že mohou být penalizovány za nedostatečnou moderaci. Srovnatelná rizika nadměrného mazání však neexistují téměř. To vytváří klasický důvod k nadměrné moderaci: v případě pochybností je pravděpodobnější, že bude obsah odstraněn, zablokován nebo zneviditelněn.

Americká vláda ve svém prohlášení k australskému návrhu varovala právě před tímto. Podle jejího hodnocení by vágní definice „újmy“ mohly vést k cenzuře názorů, protože společnosti by mohly preventivně mazat chráněná prohlášení, aby se vyhnuly regulačním sankcím.

Australská vláda toto obvinění odmítá. Wells výslovně uvedl, že nekontroluje svobodu projevu ani neprovádí skryté sledování. Zákon není namířen proti tomu, co lidé říkají online, ale proti chování platforem.

Ale právě v tom spočívá rozpor: Pokud jsou platformy zodpovědné za důsledky obsahu, nevyhnutelně musí rozhodnout, který obsah je přípustný, rizikový nebo škodlivý.

Ověření věku se používá ke kontrole všech uživatelů

Problém se stává ještě zřetelnějším, pokud jde o ochranu mládeže.

Austrálie již zakazuje přístup k řadě sociálních sítí osobám mladším 16 let. Nový návrh zákona na tomto modelu staví. Aby však platformy mohly spolehlivě identifikovat nezletilé osoby, musí odhadnout nebo ověřit věk celé své uživatelské základny.

To znamená, že zákon oficiálně určený k ochraně dětí nevyhnutelně ovlivňuje i dospělé.

Čím přísněji bude stát vymáhat věkové limity, tím větší bude tlak na platformy, aby používaly rozpoznávání obličeje, údaje o účtech, postupy digitální identity nebo jiné metody k určení věku.

Zákaz sociálních médií v Austrálii již ukázal, kam tento vývoj vede: pokud mladí lidé obcházejí omezení, kontroly se zpřísňují. Ochrana mládeže se postupně transformuje v infrastrukturu pro ověřování identity a věku pro všechny.

eSafety může vyšetřovat pod falešnou identitou

Obzvláště výbušná je role australského online úřadu eSafety.

Návrh zákona umožňuje úřadu a některým schváleným výzkumníkům používat tzv. „identity loutek“ – tedy umělé nebo falešné účty, pomocí kterých lze testovat platformy a jejich moderační systémy.

Zároveň se mají zpřísnit povinnosti týkající se odstraňování obsahu. Některé stížnosti musí být vyřízeny do 24 hodin namísto 48. Vyhledávače mohou být také povinny odstranit odkazy na konkrétní obsah v krátkém čase.

To zvyšuje moc autority, která může nejen vznášet námitky proti obsahu, ale také aktivně testovat platformy a nutit je k provádění změn pod značným finančním tlakem.

„Bezpečnost“ bez výslovné ochrany svobody projevu

Zarážející je také to, co v návrhu zákona chybí.

Server Reclaim The Net poukazuje na to, že pojmy jako „svoboda projevu“ nebo „svoboda slova“ nejsou v zhruba 90stránkovém návrhu výslovně zakotveny. Dokonce i britský zákon o online bezpečnosti obsahuje alespoň formální povinnost zohlednit svobodu projevu při zavádění bezpečnostních opatření. Australský návrh žádnou srovnatelnou záruku nenabízí.

To automaticky neznamená, že každý nepopulární názor bude zakázán. Znamená to však, že právní rámec je jasně zaměřen na předcházení rizikům a odpovědnost platformy, zatímco ochrana povoleného projevu není zajištěna ve stejné míře.

Austrálie chce z toho udělat mezinárodní model

Právě proto je mezinárodní rozměr tak důležitý.

Wellsová již jedná s několika vládami a výslovně se zasazuje o společný postup proti globálním platformám. Její argumentace spočívá v tom, že jednotlivé státy se nemohou samy postavit velkým technologickým společnostem.

Pokud by několik zemí zavedlo podobná pravidla současně, platformy by již nebyly schopny přizpůsobovat své systémy pouze národním požadavkům. Pravděpodobně by vyvinuly globální standardy založené na nejpřísnějších požadavcích. V takovém případě by australský zákon mohl ovlivnit uživatele, kteří s australským právem nikdy nesouhlasili a ani v Austrálii nežijí.

Právě v tom spočívá skutečná politická výbušnost.

Co dnes začíná jako národní „povinnost péče“, se zítra může stát mezinárodním regulačním standardem, kde je normou ověřování věku, algoritmické monitorování a preventivní mazání obsahu.

Austrálie chce donutit hlavní platformy, aby převzaly „zodpovědnost“. Pokud však vlády na celém světě přijmou stejné pokyny, konečným výsledkem by mohla být nejen standardizace chování platforem, ale také rozšíření hranic toho, co mohou uživatelé online vidět a říkat.