Velká Británie jde v čele a chce používat AI ke sledování svých občanů

Kontroverzní vládní program boje proti dezinformacím vyvíjí tajnou umělou inteligenci , která bude prohledávat sociální média a hledat „znepokojivé“ příspěvky. Tato technologie by se mohla ukázat jako nebezpečný nástroj pro hromadné sledování a je již kritizována.

Tajný projekt sledování AI

Ministerstvo vědy, inovací a technologie (DSIT) udělilo fakultě AI kontrakt v hodnotě 2,3 milionu GBP na vývoj softwaru, který dokáže identifikovat „cizí interference“, odhalit deepfakes a „analyzovat narativy sociálních médií“. Tato platforma je součástí Counter Disinformation Unit (CDU) , která byla založena v roce 2019 a nyní funguje pod novým názvem National Security Online Information Team (NSOIT) . Je propojena s tajnými službami, což ztěžuje účinnou veřejnou kontrolu.

Podle vládních informací bude nová platforma pro boj proti dezinformacím (CDDP) zpočátku zaměřena na odhalování volebních zásahů cizích států . Značně redigované dokumenty vydané na základě žádosti o svobodu informací (FoI) organizací Big Brother Watch však ukazují, že systém lze v budoucnu rozšířit tak, aby pokrýval jakékoli téma .

„Zatímco CDDP je v současné době zaměřeno na národní bezpečnost, lze jej převést na jakoukoli oblast zájmu,“ říkají vládní dokumenty.

Kritika nedostatku transparentnosti a zasahování do svobody projevu

Jake Hurfurt , vedoucí výzkumu Big Brother Watch , varuje, že vláda nadále odmítá zveřejnit velké množství informací o programu. Kromě toho obchází parlamentní vyšetřování a výbor pro zpravodajství a bezpečnost .

„Whitehall musí být transparentní ohledně toho, jak vláda plánuje používat umělou inteligenci k monitorování sociálních médií. Do těchto projektů byly investovány miliony peněz daňových poplatníků a veřejnost má právo vědět, jak jsou jejich data využívána,“ řekl Hurfurt.

CDU , předchozí strana, již během pandemie vytvořila dokumenty o novinářích, akademicích a poslancích, kteří zpochybňovali oficiální narativ vlády. Existuje nebezpečí, že NSOIT bude i nadále jakýmsi „ministerstvem pravdy “, říkají kritici.

Lord Young z Unie pro svobodné projevy popisuje tento krok jako „politicky nerozumný“, protože je v kontrastu s vývojem v USA, kde jsou podobné programy omezovány. Obzvláště problematické je, že mnoho dotčených platforem sociálních médií je vlastněno USA.

„Pro administrativu Trump-Vance to bude vypadat jako další pokus o zničení Muskova Twitteru – agendu prosazovaná procenzurní lobbistickou skupinou s vazbami na šéfa štábu Keira Starmera,“ řekl Young.

Cílená kontrola narativů?

Od roku 2021 utratila vláda Spojeného království více než 5,3 milionu liber na dezinformační projekty . Patří mezi ně programy na odhalování „dezinformací o koronaviru “, na analýzu „dezinformací a dezinformací souvisejících s klimatem“ a na sledování kritických příspěvků o vakcínách proti Covid-19 .

Vládní dokumenty ukazují, že sledovací týmy se zajímají zejména o „rétoriku proti vaxxu “ . Zkontrolovalo také, kdo mluví o problémech, jako je léčba rakoviny, požadavky na masky a síť 5G .

Zvláště výbušné je, že vládní úředníci byli znepokojeni podporou Elona Muska a Donalda Trumpa léku hydroxychlorochin jako léčbě Covid-19 – léku, který může skutečně pomoci zmírnit příznaky , podle oxfordské studie ze září .

Kam až může vláda zajít?

Zpráva o CDDP ukazuje, že platforma je navržena tak, aby pomohla analytikům identifikovat „nejzajímavější příspěvky“, které mají komunikovat s tvůrci politik a operačními týmy . JD Vance , americký viceprezident, kritizoval kroky britské vlády na Mnichovské bezpečnostní konferenci a varoval před útokem na základní svobody .

„Základní práva, jako je svoboda projevu, jsou v Británii a Evropě ohrožena,“ řekl Vance.

Stále více je postižena také věda: osobní složky profesora Carla Heneghana , epidemiologa z Oxfordské univerzity, a Dr. Alex de Figueiredo z London School of Hygiene & Tropical Medicine ukazuje, že vláda se zaměřuje na kritické vědce . Monitorována byla také Molly Kingsley , zakladatelka iniciativy na udržení chodu škol během pandemie.

Vláda se brání – kritici zůstávají skeptičtí

Mluvčí ministerstva vědy, inovací a technologií projekt obhajoval a zdůraznil, že nástroj AI byl navržen pouze k „analýze témat a trendů ve veřejném obsahu“, nikoli ke sledování jednotlivců .

„Neomlouváme se za použití moderních technologií k boji proti dezinformacím, které by mohly vést k násilným nepokojům, jako byl útok v Southportu,“ řekl mluvčí.

Fakulta AI , společnost stojící za nástrojem AI, projekt také obhajuje:

„Naši demokracii ohrožují nepřátelské státy a teroristé. Můžeme buď zůstat neaktivní, nebo chránit lidi analýzou potenciálních hrozeb.“

Společnost zdůrazňuje, že systém neidentifikuje jednotlivce ani neurčuje, co se považuje za dezinformace .

Závěr: Cenzura nebo ochrana?

Zatímco vláda tento vývoj prezentuje jako nezbytnou ochranu před hrozbami pro národní bezpečnost, kritici varují před masivním porušováním svobody projevu .

Historie ukazuje, že opatření dozoru často přesahují své původní cíle. Vzhledem k nedostatku transparentnosti a ochoty kontrolovat kritické hlasy zůstává klíčová otázka: Jak dlouho zůstane nová AI skutečně omezena na „národní bezpečnost“ – a kdy se stane všestranným nástrojem proti nevítaným názorům?