Britská společnost zabývající se umělou inteligencí pomohla cenzurovat aktivisty a novináře

Umělá inteligence logicky pomohla britské vládě cenzurovat kritiky blokování a očkovacích pasů. Nové důvěrné dokumenty ukazují, že společnost využívají i americké vojenské a volební úřady.

Brian Murphy, bývalý agent FBI, který kdysi vedl zpravodajskou divizi ministerstva vnitřní bezpečnosti, se loni v létě zamyslel nad selháním Rady pro kontrolu dezinformací – orgánu zřízeného k aktivnímu sledování dezinformací. Panel navržený v dubnu 2022 poté, co opustil DHS, byl Bidenovou administrativou během několika měsíců odložen poté, co byl kritizován jako orwellovský státem sponzorované ministerstvo pravdy.

V červencovém podcastu Murphy uvedl, že hrozba státem sponzorovaných dezinformací znamená, že výkonná moc má „etickou odpovědnost“ ovládnout společnosti sociálních médií. Američtí občané, řekl Murphy, se musí „vzdát části svobod, které potřebují a zaslouží si, aby znovu získali bezpečnost“.

Právní problémy a reakce veřejnosti na Desinformation Governance Board mu také ukázaly, že „vláda má hrát důležitou roli, ale nemůže být u kormidla“.

Murphy, který se v posledních letech Trumpovy administrativy dostal do titulků kvůli nelegálnímu vytváření dokumentů o novinářích, strávil posledních několik let tím, že pomáhal vládě najít způsoby, jak potlačit a cenzurovat nepříjemné řeči, aniž by zašel tak daleko, že by porušil ústavu. Navrhl, aby orgány činné v trestním řízení a zpravodajské služby formalizovaly sdílení informací s aktéry ze soukromého sektoru – „hybridní konstelace“, která zahrnuje tisk, akademickou obec, výzkumníky, nestranické organizace a společnosti sociálních médií – s cílem čelit „dezinformačním kampaním“, které se mají rozbít dříve, než se rozšíří.

Nedávno Murphy pracoval na realizaci své vize boje proti dezinformacím tím, že se připojil k britské technologické společnosti Logically.AI, jejíž eponymní produkt identifikuje a odstraňuje obsah na sociálních sítích. Od svého nástupu do společnosti se Murphy setkal s armádou a dalšími vládními úředníky po celých USA, z nichž mnozí uvedli do provozu nebo testovali platformu Logically.AI.

Logicky říká, že používá umělou inteligenci ke sledování více než milionu konverzací. Společnost také udržuje redakční tým pro veřejnost, který produkuje virální obsah a spolupracuje s tradičními zpravodajskými médii. Společnost se odlišuje od ostatních hráčů v tomto odvětví tím, že aktivně přijímá takzvaná „protiopatření“ k napadení nebo odstranění problematického obsahu na platformách sociálních médií.

Podle prohlášení společnosti společnost dokonce experimentuje s modely přirozeného jazyka, aby „vytvářela účinná protiopatření, která lze použít k poskytování nových řešení pro moderování obsahu a ověřování faktů“. Jinými slovy, roboty vybavené umělou inteligencí, kteří v reálném čase produkují originální argumenty k vyvrácení obsahu označeného jako dezinformace.

Logically v mnoha ohledech plní roli, kterou Murphy vyslovil pro komplexní partnerství veřejného a soukromého sektoru při rozhodování o obsahu sociálních médií. Technologie Logically se již stala hlavním hráčem v mnohem větším hnutí, které se snaží bojovat proti tomu, co vláda a ostatní nazývají dezinformacemi nebo dezinformacemi. Řada vyvíjejících se důkazů – včetně Twitter Files, Moderna Reports, navrhovaného vládního dezinformačního panelu a dalších zpráv – ukázala, jak jsou vlády a průmysl odhodlány monitorovat, delegitimizovat a někdy cenzurovat chráněný projev. Příběh Logically.AI ukazuje, jak sofistikované se tyto snahy staly a jejich globální dosah. Využití její technologie ve Spojeném království a Kanadě je znepokojivé, protože společnost se snaží získat silnější postavení ve Spojených státech.

Logically založil v roce 2017 tehdy 22letý britský podnikatel Lyric Jain, aby bojoval proti lžím, které podle něj vedly Brity k tomu, aby hlasovali pro Brexit a opustili Evropskou unii. Kdysi malý start-up má nyní velké zakázky po celé Evropě a Indii a úzce spolupracuje s Microsoftem, Googlem, PwC, TikTok a dalšími velkými společnostmi. Meta podepsala smlouvu s Logically, aby jí pomohla revidovat obsah na všech jejích platformách: WhatsApp, Instagram a Facebook.

Blízké spojení se Silicon Valley nabízí neobvyklý dosah. „Pokud Logically označí obsah jako falešný, Facebook výrazně omezí jeho distribuci, takže jej uvidí méně lidí, zobrazí varování, že obsah byl považován za falešný, a upozorní lidi, kteří se jej pokusí sdílet,“ oznámily Meta and Logically v tiskové zprávě z roku 2021. o partnerství.

Meta a Logical nereagovaly na opakované žádosti o vyjádření.

Během místních voleb v roce 2021 ve Spojeném království Logical monitorovala „až jeden milion kusů škodlivého obsahu“, z nichž některé byly předány vládním úředníkům, podle dokumentů, které společnost zaslala svým zákazníkům. Společnost tvrdila, že odhalila koordinovanou aktivitu určenou k manipulaci s volebním zpravodajstvím a oznámila tyto informace technologickým gigantům, aby mohly být odstraněny.

Následující rok vyjednal stát Oregon se společností Logically rozsáhlé úsilí o sledování obsahu kampaně během voleb v polovině období v roce 2022. V redigovaném návrhu projektu společnost Logically uvedla, že porovná nároky se svým jediným zdrojem databáze pravdy založené na vládní data a také by podnikly kroky proti „dezinformacím“ – pojmu umění, který odkazuje na přesné informace, které podněcují nebezpečné příběhy. Společnost také přesvědčila Oregon o své schopnosti tlačit na platformy sociálních médií, aby odstranily obsah.

Oregonský poslanec Ed Diehl zablokoval státu obnovení partnerství s Logically pro letošní volby. Společnost, řekl Diehl v rozhovoru, porušuje „naše ústavní práva na svobodu projevu a soukromí“ tím, že „označuje pravdivé informace za nepravdivé, zobrazuje legitimní odlišné názory jako hrozby a pak propaguje „protipříběhy“ proti platným formám veřejné diskuse.

Kancelář státního tajemníka státu Oregon, která dohodu s Logically iniciovala, ve své odpovědi prohlásila, že „nemá ani autoritu, ani schopnost, ani touhu cenzurovat řeč“. Diehl to popírá. Poukazuje na to, že původní nabídka Logically jasně uvádí, že služba nabízí „možnost neomezených pokusů o zastavení šíření“ údajných dezinformací a možnost úřadu ministra zahraničí Oregonu „označit problematické příběhy a obsah k odstranění“. Smluvní dokument chválí Logically jako „důvěryhodnou autoritu v komunitě sociálních médií“ a dává společnosti „privilegovaný status, který nám umožňuje neustále podporovat potřeby našich zákazníků“.

Diehl, který mi poskytl kopii smlouvy společnosti Logically, označil věc za „důležitý boj za občanská práva“ a poznamenal, že „práce státu na potlačení dezinformací dále posiluje nedůvěru ve volební systémy a vládní instituce obecně.“ .

Dosah Logical na americkém trhu rychle roste. Podle důvěrného návrhu společnost testovala programy pro chicagskou policii, aby pomocí umělé inteligence analyzovala místní rapovou hudbu a předpovídala násilí v komunitě. Záznamy Pentagonu ukazují, že společnost je subdodavatelem elitního programu Velení speciálních operací americké armády, který má běžet v letech 2022 a 2023. S finanční podporou DHS Logically také provádí výzkum v oblasti kultury hráčů a radikalizace.

Společnost ve svých etických prohlášeních uvedla, že nebude zaměstnávat lidi, kteří ve vládě zastávají „placené nebo významné postavení“. Záznamy však ukazují, že vládní vliv je silný. Například Kevin Gross, ředitel divize NAVAIR U.S. Navy, byl součástí týmu Logically během stipendijního programu v roce 2022. Výměnný program podpořil úsilí společnosti Logically pomoci NATO analyzovat ruská sociální média.

Další kontrakty v USA mohou být tajné. Logicky spolupracuje s ThunderCat Technologies, smluvní firmou, která pomáhá technologickým společnostem ucházet se o státní zakázky. Takové dohody v minulosti pomohly technologickým gigantům utajit tajnou práci. Google se v minulosti snažil utajit své smlouvy s ministerstvem obrany na používání dronů pro umělou inteligenci prostřednictvím podobného poskytovatele třetí strany.

Ale vyvstávají otázky o metodách a dosahu společnosti, protože proniká stále hlouběji do amerického života, zvláště když chce logicky hrát hlavní roli v prezidentských volbách v roce 2024.

Pandemická policie

Protože Spojené království čelí v březnu 2020 šíření COVID-19, vláda spouští novou pracovní skupinu, Counter Disinformation Unit (CDU). Tajná pracovní skupina byla vytvořena bez fanfár, ale byla propagována jako opatření na ochranu veřejného zdraví před nebezpečnými dezinformacemi. Caroline Dinenage, mediální poslankyně, později vysvětlila, že cílem jednotky bylo poskytovat spolehlivé zdroje informací a „podniknout kroky k odstranění dezinformací“ o „zavádějících narativech souvisejících s COVID-19“.

Později se ukázalo, že CDU zadala většinu své práce soukromým dodavatelům, jako je Logically. V lednu 2021 společnost získala svůj první kontrakt v hodnotě 400 000 liber od CDU Watchdog na monitorování „potenciálně škodlivých dezinformací online“. Další smlouvy následovaly později: Britský úřad pro média nakonec udělil smlouvy v celkové hodnotě 1,2 milionu liber a ministerstvo zdravotnictví poskytlo dalších 1,3 milionu liber, takže celková částka dosáhla přibližně 3,2 milionu dolarů.

Tyto peníze byly použity na rozsáhlé sledování novinářů, aktivistů a zákonodárců, kteří kritizovali pandemickou politiku. Podle loňského vyšetřování Telegraph Logically zaznamenal komentáře aktivistky Silkie Carlo kritizující očkovací pasy ve svých „dezinformačních“ zprávách.

Zprávy Logically obsahovaly také informace o Dr. Alexandre de Figueiredo, výzkumník na London School of Hygiene and Tropical Medicine. Figueiredo publikoval zprávy o negativním dopadu očkovacích pasů na důvěru ve vakcíny a veřejně kritizoval politiku hromadného očkování dětí. Navzdory své odbornosti svůj tweet logicky předložil vládě v dezinformační zprávě. Zatímco některé z těchto zpráv byly považovány za důkaz porušení podmínek služby, mnohé byly ve skutečnosti rutinními politickými názory vyjádřenými prominentními britskými osobnostmi, které byly odborně zpochybněny.

Dokumenty dokazující Logicallyovu roli byly později odhaleny Carlosovou monitorovací skupinou Big Brother Watch, která vytvořila podrobnou zprávu o sledování. Zprávy CDU se zaměřily na bývalého soudce, který se vyslovil proti donucovacím příkazům jako porušení občanských svobod, a na novináře, kteří kritizovali vládní korupci. Některé dokumenty o sledování naznačují plíživé rozšiřování odpovědností jednotky, přičemž e-maily o sledování médií ukazují, že agentura konkrétně monitorovala protiválečné skupiny, které se stavěly proti politice NATO.

Carlo překvapilo, že se jeho jméno vůbec objevilo v příspěvcích sledovaných a označených Logically. „Zjistili jsme, že společnost využívá miliony online příspěvků k monitorování, zaznamenávání a předávání online politického nesouhlasu ústřední vládě pod rouškou boje proti ‚dezinformacím‘,“ napsala v prohlášení.

Marketingové materiály publikované společností Logically naznačují, že vize COVID-19 jde daleko nad rámec ověřování faktů a přiklání se k potlačování nesouhlasu. Případová studie zveřejněná firmou tvrdila, že hashtag #KBF, který odkazuje na Keep Britain Free, aktivistickou skupinu bojující proti zavírání škol a obchodů, byl nebezpečným „antiočkovacím“ příběhem. Případová studie také tvrdila, že tvrzení, že „virus byl vytvořen v čínské laboratoři“, bylo jednou z „konspiračních teorií“, které byly „podporovány vládou“ v USA – navzdory skutečnosti, že mnoho důkazů nyní ukazuje na pravděpodobný laboratorní únik ve Wuhanském institutu virologie jako původ pandemie.

Logicky se také zapojil do práce na pandemii, která rozmazala hranice tradičního ověřování faktů. V Indii společnost aktivně pomáhala přesvědčovat pacienty, aby se nechali očkovat. V rozhovoru pro indickou tiskovou agenturu v roce 2021 Jain, zakladatel a generální ředitel společnosti, řekl, že jeho společnost „úzce spolupracovala s komunitami, které ještě dnes váhají s očkováním“. Společnost rekrutovala „advokáty a evangelisty“, aby ovlivnila místní veřejné mínění.

Sporná kontrola faktů

V roce 2022 společnost Logically použila svou technologii jménem kanadských donucovacích orgánů k zacílení „konvoje svobody“ vedeného truckery proti mandátům COVID-19, ukazují vládní dokumenty. Tým Logically teoretizoval, že autodopravci byli „pravděpodobně ovlivněni zahraničními protivníky“, což je populární tvrzení, které posloužilo k očernění protestů jako neautentických.

Pokus o diskreditaci kanadských protestů demonstroval překrývající se sílu různých větví Logically. Zatímco oddělení pro monitorování sociálních médií poskytovalo zprávy kanadské vládě, redakční tým se pokoušel ovlivnit názor zpravodajských médií. Když Financial Times informovaly o fenoménu protestů, citovaly Murphyho, bývalého agenta FBI, který nyní pracuje pro Logically, jak tvrdí, že truckeři byli ovlivněni koordinovanými „konspiračními skupinami“ v USA a Kanadě. Vice podobně citoval šéfa vyšetřování Logically Joe Ondraka, který oznámil, že Freedom Convoy způsobil rozruch mezi konspiračními teoretiky po celém světě. Žádná ze společností neprozradila, že Logically pracuje pro kanadské vymáhání práva.

Další příjemci Logically rychle poukazují na to, že si společnost dovolila šířit to, co považuje za dezinformaci.

Will Jones, redaktor Daily Sceptic, libertariánského britského zpravodajského časopisu, popsal neobvyklou kontrolu faktů na Logically Facts, redakčním webu společnosti. Jones uvedl, že web se na něj zaměřil, protože poukázal na to, že v roce 2022 bylo 71 % pacientů hospitalizovaných kvůli COVID-19 očkováno. Ověření faktů Logically Facts potvrdilo, že Jones správně použil statistiky britského zdravotnického úřadu, ale pokusil se ho podkopat tvrzením, že stále zaváděl tvrzením, že „vakcíny jsou neúčinné“.

Jones však v reakci poukázal na to, že tento argument nikdy neuvedl a že logicky napadá slaměného muže. Jeho původní článek odkazoval na článek Guardianu, který nepravdivě tvrdil, že „COVID-19 se z velké části stal nemocí neočkovaných“.

Další kontroly faktů Logically si bizarně vzaly na mušku deník Daily Sceptic, který informoval o možném zrušení požadavku na očkování v lednu 2022. Webová stránka kritizovala Daily Skeptic za zpochybňování důkazů očkovací politiky a tvrzení: „Vakcíny COVID-19 se ukázaly jako účinné v boji proti pandemii. Přesto byl požadavek na očkování pro zdravotnické pracovníky koncem měsíce zrušen a všechna ostatní pandemická omezení byla zrušena následující měsíc, uvedl Daily Skeptic.

„Pokud mohu soudit, je to podvod,“ řekl zakladatel Daily Skeptic Toby Young z Logically. „Skupina pravicových zvrhlíků nabízí vládě pomoc s cenzurou kritiky její politiky pod záminkou, že nechtějí umlčet disent – ​​nedej bože! – ale jednoduše „očištění“ sociálních médií od dezinformací, dezinformací a nenávistných projevů.“

Podobně negativně se Jones vyjadřoval ke společnosti, která podle jeho názoru odmítala vše, co odporovalo všeobecnému konsensu. „Samozřejmě je konsensus definován lidmi, kteří za její služby Logicky platí,“ dodal Jones. Společnost tvrdí, že chrání demokratickou debatu tím, že poskytuje přístup ke „spolehlivým informacím“, ale ve skutečnosti se vyplácí štěkat a zuřit na povel, když se skutečná svoboda projevu stane nepohodlnou.

V některých případech se Logically vrhla na zprávy, aby pomohla diskreditovat nesouhlasné hlasy. Loni v září se webová stránka proti dezinformacím rozjela poté, co britská zpravodajská média zveřejnila zprávy o obviněních ze sexuálního zneužívání zahrnujícího komika a online moderátora Russella Branda – jednoho z nejotevřenějších kritiků britské vládní politiky, známého svými heterodoxními názory a velkým ve srovnání s Joe Roganem.

Brand, hlasitý odpůrce pandemické politiky, byl v minulosti cílem společnosti Logically za to, že kritizoval reakci USA a Spojeného království na propuknutí viru.

Když se ale v médiích objevila sexuální obvinění, z nichž se žádné u soudu nepodařilo prokázat, web podnikl drastické kroky. Ondrák, který vedl vyšetřování Logically, poskytl různé citace téměř půl tuctu zpravodajských kanálů – včetně Vice, Wired, BBC a dvou samostatných článků v Times – které vykreslovaly Branda jako nebezpečného šiřitele dezinformací, který byl nakonec pohnán k odpovědnosti.

„Připojuje se k dlouhému seznamu údajně zdravotně uvědomělých, antikapitalistických postav, které byly polapeny skepticismem Covidien, popíráním Covidienu a hnutím proti očkování a byly vyplivnuty na druhém konci Velkého resetu,“ řekl Ondrák Wired. V článku publikovaném v Times Ondrák vyjádřil frustraci nad překážkami bránícími demonetizaci Branda ze streamovací sítě Rumble. Ondrák v rozhovoru pro BBC vyjádřil podivné odsouzení, když řekl, že Brand sice nešíří skutečné konspirační teorie nebo nepravdy, ale dává divákům „přísady k tomu, aby samy produkovaly dezinformace“.

Zasáhl i poslanec Dinenage, který spolu s Logically vedl během pandemie antidezinformační kampaň CDU. Bezprostředně po skandálu poslala téměř identické dopisy Rumble, TikTok a Meta, ve kterých vyzvala platformy, aby následovaly příkladu YouTube a Brand smazaly. Dinenage zarámovala svou oficiální výzvu, aby byla Brand cenzurována jako součást vyšetřování veřejného zájmu na ochranu „blaha obětí nevhodného a potenciálně nezákonného chování“.

Redaktoři z Logically šli ještě o krok dále. Ve své zprávě o obviněních proti Brandovi, zveřejněné na Logically Facts, tvrdila, že účty na sociálních sítích, které vykreslovaly komika jako „nevinného, ​​dokud nebyla prokázána vina“, byly mezi těmi, které „propagovaly běžné mýty o sexuálních útocích“. Webová stránka zveřejnila následné video opakující tvrzení, že ti, kdo volají po presumpci neviny pro Branda, principu, který sahá až do Magna Carta, šíří nebezpečný „mýtus“.

Neobvyklá advokační kampaň proti Brandovi byla typická pro společnost, která se dlouho chlubila tím, že je kladivem proti šiřitelům dezinformací. Příležitost odstranit Branda z mediálního ekosystému znamenala obvinit ho z co největšího možného množství, přestože obvinění ze sexuálního napadení byla zjevně založena na dezinformacích nebo dezinformacích. Spíše byl předním kritikem státní cenzury a pandemických politik, takže skandál představoval slabost, kterou bylo třeba využít.

Taková taktika by se mohla vrátit k pronásledování amerických voličů. Společnost je nyní členem amerického Centra pro sdílení a analýzu informací o volební infrastruktuře, což je skupina vedená Centrem pro internetovou bezpečnost, která usnadňuje oznamování dezinformací jménem volebních orgánů v celé zemi. Logicky byl v diskusích s Oregonem a dalšími státy, stejně jako DHS, aby rozšířil svou roli při sledování sociálních médií pro prezidentské volby koncem tohoto roku.

Bývalé cíle společnosti však varují.

„Zdá se, že lukrativní a upřímně znepokojující podnikání společnosti Logical ve skutečnosti vyprodukovalo miliony dolarů dezinformací pro vládu, což mohlo hrát roli při cenzuře legitimních projevů občanů,“ řekl Carlo z Big Brother Watch UK.

„Politici a vysocí státní úředníci jsou připraveni zaplatit miliony liber těmto podvodníkům, aby na ně nasadili červenou tužku a přesvědčili se, že demokracii spíše ‚chrání‘, než aby ji podkopávali,“ uvedl Young z Daily Sceptic. „Je to podvod a mělo by to být nezákonné.

Lee Fang