Rychlejší než pravda: Kvantově vylepšená umělá inteligence a další hranice informační války

V blízké budoucnosti budete bombardováni cílenými dezinformacemi ve zlomcích sekundy. S blížícím se věkem kvantových počítačů se Baudrillardův koncept hyperreality sloučí s konceptem Edwarda Bernayse o krystalizovaném veřejném mínění: budování konsensu prostřednictvím individualizované tvorby reality. Metody minulosti ustoupí infrastrukturní nevyhnutelnosti: GenAI, vedená algoritmickými poklady personalizovaných informací, se stane zbraní pro osobně cílené dezinformační kampaně za zlomek jejich nákladů. Propaganda již nebude mezinárodním foxtrotem pohybujících se aktérů a akcí, ale stane se autonomní silou, která se vrtá do synapsí mas na mikroúrovni. Když se to stane, dlouho doutnající zbraň lidstva se obrátí proti střelci – vytyčí hranici mezi realitou a její simulací prostřednictvím rekurzivních, zrychlených a stále více personalizovaných informačních operací.

Vaše data budou použita proti vám

Tento proces již začal a šíří se – prozatím – rychlostí vstupů umělé inteligence. Podle Goldsteina a kol. (2024) je generativní umělá inteligence schopna „generovat texty, které jsou pro americké publikum téměř stejně přesvědčivé jako obsah, který jsme získali ze skutečných zahraničních tajných propagandistických kampaní.“ Jinými slovy, digitální stroje, které jsme si vytvořili, aby nám pomohly, se již používají k ovlivňování našich myšlenek a činů. Vzhledem k tomu, že veřejně dostupné modely se stávají stále silnějšími, pravděpodobně budou následovat pokročilejší soukromé modely. To daleko přesahuje rámec textových modalit a zahrnuje fotografie a videa generovaná modely generativní umělé inteligence (GenAI).

Propaganda generovaná umělou inteligencí se ve skutečnosti již používá ve velkém měřítku. Volby ve Spojených státech v roce 2024 byly plné příkladů, které zaplavily sociální sítě a vytvořily alternativní narativy nejen o volbách, ale i o reálných událostech. V nedávnějších světových událostech vedl konflikt mezi Izraelem a Íránem a nechvalně známé černé tašky hozené z okna Bílého domu k návalu dezinformací online. V současné době existují různé stupně účinnosti propagandy generované umělou inteligencí. Novost technologie a experimentování s cílem najít způsoby, jak ji efektivně vložit do myslí lidí, stále vede k přístupu „požární hadice“. To znamená, že je vytvořena s cílem širokého šíření: oslovit co nejvíce lidí v naději, že u některých z nich zarezonuje. Pokud jsou pokusy o její efektivní využití zmařeny, selže. Ale co kdyby propaganda generovaná umělou inteligencí byla masově produkována a přizpůsobena jednotlivým uživatelům? Jedním z klíčových prvků pro potenciální rozsáhlé nasazení propagandy na míru je již součástí fungování světa propojeného s internetem: dohledový kapitalismus.

Kapitalismus dohledu

Termín „sledovací kapitalismus“, který zavedla profesorka Harvardu Shoshana Zuboff, označuje ekonomické paradigma, v němž se extrahovaná behaviorální data používají nejen ke sledování jednotlivců pro komerční účely, ale také k předpovídání a ovlivňování budoucích akcí. Při aplikaci ve velkém měřítku se objevují vzorce vlivu – vzorce, které pomáhají upoutat pozornost spotřebitelů a formovat veřejné mínění. A i když je obecně zaměřen na komerční účely, jeho použití může také podporovat geopolitické cíle.

Abychom to popsali jednoduchou (i když rozmarnou) metaforou: Představte si draka, který hromadí zlato. Nyní si představme, že dračí zlato se skládá ze všech datových bodů, které tvoří vaši vlastní online stopu a stopu ostatních. Vzpomeňte si na všechny ty podmínky služby, které jste si nikdy nepřečetli, na soubory cookie, které jste nedbale přijali při návštěvě webových stránek, na fotografie, které jste sdíleli na sociálních sítích (a možná i na fotografie v telefonu), na stovky (pravděpodobně tisíce) malých „zlatých nugetů“, které jste rozházeli po svých digitálních příbytcích. Drak jistě zná hodnotu svého zlata, ale možná chce investovat do krásné brože nebo roztomilé korunky, aby do svého pokladu nalákal více obětí. Drak tedy pošle zlato kováři. Říkejme kováři „pan datový makléř“. Jeho úkolem je přeměnit tuto surovou rudu na něco užitečného. Najde správnou směs rud a zlatých nugetů, aby vytvořil něco, co bude pro draka užitečné. Jakmile je hotovo, prodají to zpět drakovi a voilà, přijde ještě více lidí a drak je pohltí… a zanechá po sobě ještě více zlata, aby cyklus mohl pokračovat. To je dost hloupý příklad, ale měli byste pochopit podstatu. Jak to tedy vypadá ve skutečnosti?

Jedním z nejznámějších případů je případ společnosti Cambridge Analytica, která čelila vysokým pokutám a uzavření společnosti za prodej podrobných psychologických profilů voličů. Cambridge Analytica se spoléhala na data shromážděná od uživatelů sociálních médií prostřednictvím online kvízu (viz výše zmíněný roztomilý malý odznak). Účastníci byli placeni za vyplnění osobnostního testu a za to, aby umožnili shromažďování svých údajů. Kromě dat účastníků byla shromážděna i data jejich online přátel, čímž vznikl obrovský poklad (vzpomeňte si na Šmakův poklad ve filmové adaptaci „Hobita“). Tato data byla poté shromážděna, analyzována a použita k vytvoření podrobných psychologických profilů. Tyto psychologické profily byly následně použity k vytvoření prediktivních algoritmů, které mohly být použity k poskytování přizpůsobené politické reklamy. S přesným tlakem byli lidé nalákáni do jiných – možná nebezpečnějších – dračích doupat. Když se tyto informace staly veřejnými (prostřednictvím informátora Christophera Wylieho a investigativní žurnalistiky), rozšířila se vlna nedůvěry a reforem, protože vlády začaly zavádět přísnější omezení uživatelských dat, což vedlo k obecné nedůvěře vůči společnostem sociálních médií.

Z trosek této události vyšlo najevo, že společnost Cambridge Analytica dokázala vytvořit podrobné psychologické mapy amerických voličů s až 5 000 datovými body. Jiní našli, sledovali a deanonymizovali digitální stopy lidí v datových sadách s mnohem menším počtem datových bodů. Pro ilustraci vědci Luc Rocher, Julien M. Hendrickx a Yves-Alexandre de Montjoye (2019) poznamenávají, že „99,98 % Američanů lze správně identifikovat v jakékoli datové sadě na základě 15 demografických charakteristik.“ Stačí jen pár zlatých nugetů, které jste po sobě zanechali, aby vás identifikovali z pokladu. To je důležité, protože úniky dat na otevřeném internetu jsou stále častější a poskytují drakům ještě cennější vodítka ke sledování.

Jen v roce 2023 bylo úniky dat postiženo přes 350 milionů lidí. Tyto úniky mají dopad na vlády, zdravotnická zařízení a komerční zájmy. Zahrnují všechna místa, kde zanecháváme digitální stopy: naše preference a antipatie, naše osobní údaje a vodítka k naší individuální osobnosti. Všechny tyto informace mohou digitální draci 21. století využít k manipulaci s tělem a myslí. Je to pokladnice dostatečná k nalákání lidí po generace dopředu. A tento poklad lze dále hromadit, jak se směřujeme k stále více digitálně propojené „kontrolní společnosti“.

Kontrolní společnosti

V první polovině roku 1990, ve svém „Doslovu ke společnostem kontroly“, Gilles Deleuze představil myšlenku zásadního posunu ve způsobu, jakým lze moc ve společnosti vykonávat. Zavedená metoda „disciplinární kontroly“ se opírala o pocit, že se lidé cítí omezeni ve svém prostředí. Moc se uplatňovala prostřednictvím rodinné struktury, škol, pracovišť a samozřejmě institucionálních struktur náboženství a vlády. Deleuze to vyjádřil takto: „Jedinec se neustále pohybuje z jednoho uzavřeného prostředí do druhého“ (str. 3). Tato uzavřená prostředí držela lidi na uzdě drtivou tíhou autority. A propaganda těchto druhů společností tuto myšlenku odrážela: obrazy lidí sledujících ze stínů, ohromující počet účastníků propagandistických filmů, kteří všichni jásají pod stejnou vlajkou, a samozřejmě zbožšťování symbolů (včetně zbožšťování vůdců). To vše přispělo k tomu, že zdi, v nichž byli lidé vězněni, byly ještě vyšší.

Deleuze (spolu s několika dalšími významnými osobnostmi) pozoroval posun v tomto paradigmatu, když se západní společnosti začaly posouvat k tomu, co nazval „společností kontroly“. Jednoduše řečeno, šlo o společnosti, v nichž se hranice mezi lidmi uvnitř společnosti zdály neviditelné. Místo toho, aby byli lidé v této sociální struktuře přesouváni z jednoho uzavřeného prostoru do druhého, měli možnost věřit, že mohou jít kamkoli a dělat, co považují za hodnotné. Háček je samozřejmě v tom, že tito volně se pohybující tvorové mohou a jsou vedeni velmi specifickými směry, k účelům, které někdy není tak snadné rozluštit zevnitř. S dokořán otevřenými hranicemi a bořenými zdmi by si člověk mohl myslet, že je svobodný: a v jistém smyslu také je. S touto svobodou však přichází debakl, kdy nikdy doopravdy není s ničím „dokončen“. Rozmazávání práce, rodinného života, volného času a institucí, které toto vše umožňují, se prolíná a stírá, podobně jako impresionistické rozptylování forem Clauda Moneta: zprostředkovává zdání celku tím, že signalizuje, že části zapadají tam, kam patří.

Deleuze viděl, takříkajíc, znamení doby v nově vznikajících technologiích konce 20. století a jejich dopadu na tento proces. Jak Deleuze poznamenává: „Typy strojů lze snadno spojit s jakýmkoli typem společnosti – ne proto, že by stroje určovaly, ale proto, že vyjadřují ty společenské formy, které mohou produkovat a využívat“ (str. 6). S rostoucím používáním personalizovaných počítačů, vzestupem masové komunikace na internetu a konečně všudypřítomností sociálních médií se kanály, po kterých se stádo pohybuje, prohlubují a snáze se dají sledovat. Deleuzeova vize budoucnosti ho vedla k varování „mládeži“, že „je na ní, aby zjistila, k čemu je používána“ (str. 7). Úkol, který může být v hyperpropojeném mediálním ekosystému poměrně obtížný. Kdo je kouzelník za oponou, nebo ochránce dračího hnízda?

Dnes je obtížné přesně definovat digitální stopu člověka. Téměř vše je digitálně propojeno. Od bankovnictví přes medicínu až po sociální sítě zanecháváme po sobě datové body, které mohou ostatní shromažďovat a zneužívat jako zbraň. Jak poznamenává James Brusseu (2020): „Dnes už „kontrola“ není abstraktním pojmem politické filozofie, ale lze ji lokalizovat do specifických technologií fungujících tam, kde se shromažďují osobní údaje na moderním trhu s daty“ (str. 2). A i když se to zpočátku děje pro komerční zájmy (zejména reklamu), bude se to i nadále hojně využívat jako forma kontroly v politické a sociální sféře. Stojí za zmínku, že tato data se neomezují pouze na to, co člověk dělá veřejně nebo pod „anonymním“ uživatelským jménem. Veškerá online aktivita zanechává stopy a s dostatkem dat a výpočetního výkonu mohou vlastní návyky vést ke sledování.

Navzdory obrovskému množství dat produkovaných individuálně i kolektivně mnoho lidí stále pociťuje anonymitu, pokud jde o jejich data na uzavřeném webu, na jejich chytrých telefonech nebo za „zabezpečenými“ systémy kybernetické bezpečnosti. Jak však bylo ukázáno v předchozí části tohoto článku, k identifikaci někoho pomocí anonymizovaných dat je potřeba relativně málo datových bodů. S ohledem na to se mnoho lidí uchýlilo k šifrování a „zabezpečeným“ mobilním zařízením, aby si zachovali anonymitu. Technologie sledování, jako je Graphite od Paragon Solutions a Pegasus od NSO Group, však také volně zpřístupňují data z těchto zdrojů. Jak uvádí The Guardian, tyto technologie fungují i ​​v reálném světě: „Převzetím kontroly nad mobilním telefonem může uživatel – v tomto případě ICE – nejen sledovat polohu osoby, číst její zprávy a prohlížet si její fotografie, ale také přistupovat k informacím uloženým v šifrovaných aplikacích, jako je WhatsApp nebo Signal, a číst je.“ To výrazně rozšiřuje možnosti shromažďování a analýzy osobních údajů za účelem vytváření propagandy na míru: přidávají se ještě více lákavých pokladů, ze kterých lze vyrobit návnadu. Poklady, které by ve skutečnosti měly zůstat skryty za bezpečnými dveřmi a algoritmickými zámky. Stejně jako v minulosti našli své poslání zloději trezorů a zámků, i dnešní a zítřejší digitální mágové se této výzvy postaví.

Posun směrem k „kontrolované společnosti“ již začal prostřednictvím mechanismů internetového věku, zejména v oblasti obchodu. V nepříliš vzdálené budoucnosti hyperkoordinované formy propagandy, poháněné kombinovanou silou umělé inteligence a kvantových počítačů, brzy zanechají na světě svou stopu.

Kvantové počítače a GenAI sdílejí společný večer: O devět měsíců později se objevuje kvantová propaganda

Jak se to projeví v reálném světě? S rostoucím využíváním digitálních platforem založených na umělé inteligenci (včetně modelů velkých jazyků (LLM) a dalších forem generativní umělé inteligence (GenAI)) v každodenním životě se možnost digitálního ovlivňování individuální reality stává stále hmatatelnější. Odhaduje se, že se na celém světě denně vygeneruje 402,74 milionu terabajtů dat. To představuje nové příležitosti k přístupu k těmto informacím, jejich shromažďování, třídění a strategickému či zneužívanému využití (pro podniky, vlády a instituce). Problém spočívá v neschopnosti současných počítačových technologií zpracovávat takové obrovské množství informací včas.

Co by osobní notebook vypočítal za milion let, superpočítač zvládne za rok a kvantový počítač za několik hodin. Rozdíl spočívá v tom, jak počítají. Klasické počítače jsou založeny na binárním kódu (jedničky a nuly) zpracovávaném jako bity. To vede k tomu, že řešení problému nebo spuštění programu je vypracováno jako jedno řešení. Superpočítače tento problém obcházejí paralelním zpracováním k urychlení procesu a spouštějí více iterací stejného problému současně. I tak ale stále produkují jednu „odpověď“. To ilustruje, jak výpočetní výkon může proces urychlit, ale kvůli fyzickým a politickým omezením hardwaru se proces nemusí výrazně zrychlit nebo nabídnout více možností pro řadu potenciálních výsledků.

Kvantové počítače na druhou stranu využívají vlastnosti kvantové fyziky k překonání binární možnosti začleněním superpozičního kvantového bitu (qubitu). To umožňuje tradičním nulám a jedničkám koexistovat s jejich novým společníkem v superpozici jedničky a nuly současně. To umožňuje mnohem rychlejší výpočet a schopnost poskytovat širší škálu potenciálních řešení složitých problémů zahrnujících masivní datové sady, což představuje významnou výhodu oproti klasickému zpracování dat.

Umělá inteligence a kvantové výpočty budou společně hrát symbiotickou roli v propagandě budoucnosti. Umělá inteligence již hraje klíčovou roli v personalizaci kanálů sociálních médií, reklamy a doporučení na základě dříve shromážděných dat. V kombinaci s kvantovými výpočty se tento proces posune na zcela novou úroveň vytvořením více modelů vaší osobnosti na základě vašich vlastních dat. Tyto modely dokáží vypočítat scénáře „co kdyby“ a odhalit, která zpráva (text, obrázek, video atd.) vás s největší pravděpodobností nasměruje požadovaným směrem. Rychlost tohoto propojení opět umožňuje okamžitou interakci, kde lze rétorické prostředky, jako je tón, styl a obsah, přizpůsobit tak, aby vás vedly požadovaným směrem. Může použít patos v okamžiku, kdy to považuje za nejvhodnější, pokusit se použít loga, která vám pomohou rozpoznat „správnou“ cestu, nebo dokonce v průběhu času budovat étos a důvěru. Její formy budou stejně tvárné jako její sdělení. Mohou se objevit ve formě agentů umělé inteligence, syntetických online influencerů, chatbotů, osobních asistentů atd. Budou schopni zacílit na kohokoli prostřednictvím jakéhokoli kanálu, který se projeví jako zranitelnost.

Simulace roztříštěných realit

Kombinace kvantových počítačů a GenAI změní realitu těch, kteří podlehnou jejím pokušením. V současné době (a historicky) se propaganda opírá alespoň o zrnko pravdy, její logika je založena na myšlence, že k určité události došlo. Ale takhle byste ji měli interpretovat.

Známým příkladem jsou plakáty z druhé světové války, které si získaly srdce a mysli žen ve Spojených státech. Ty byly založeny na myšlence, že probíhá světová válka, že pro zemi a válečné úsilí je potřeba pracovní síla a že vstup žen do pracovního procesu je nejen nezbytný, ale že práce mimo tradiční ženské role může být také osobně posilující. To vše platilo v době, kdy byla informační kampaň koncipována nebo se stala skutečností prostřednictvím její realizace.

Tento slib byl však v poválečných letech pro mnoho – i když rozhodně ne pro všechny – žen rychle (dočasně) odvolán. Tyto analogové kampaně byly pomalé, ale ohromně úspěšné. Spoléhaly na kolektivní vnímání reality, které mělo být sdělováno, sdíleno, přijímáno a poté implementováno. Tento osvědčený vzorec 20. století lze s různou mírou úspěchu používat i dnes (mimo jiné s digitálními nástroji).

Budoucí kvantová propaganda obejde kolektivní povahu dřívějších období propagandistické produkce a zaměří se na jednotlivce. Tito jednotlivci budou následně kolektivizováni prostřednictvím chaotických informačních ekosystémů. Neschopnost shodnout se na realitě povede k její kolektivní destrukci. Stručně řečeno, stav „hyperreálnosti“ se stane normou pro lidi pod vlivem současných propagandistických kampaní. Hyperreálnost, termín, který zavedl Jean Baudrillard, je stav, ve kterém jsou znaky, symboly a simulace reality nahrazeny jinými, čímž vzniká „kopie“, která se jeví reálnější než samotná realita. Nebo, jak píše Baudrillard (2010): „Je to produkce reálna bez původu nebo reality prostřednictvím modelů“ (str. 1557). Kombinace nové kvantové výpočetní technologie (která analyzuje data neuvěřitelnou rychlostí) a GenAI (která transformuje tato data do multimodálních, rétoricky významných důsledků) činí stav individualizované hyperreality, generované hromadně, reálnou možností. Navíc je to proces, který již jistě začal se současnou digitální propagandou (Rodriguez, 2025).

Protože GenAI poskytuje propagandistům různého vlivu větší technologický přístup, hranice mezi tím, co je skutečné, a tím, co by skutečné být mohlo, se již stírají. Dříve zmíněný příklad z reálného světa pochází z íránsko-iráckého konfliktu v roce 2025, kdy se fotografie a texty generované umělou inteligencí, stejně jako videa vytržená z kontextu, šířily internetem rychlostí blesku. Tyto příspěvky na sociálních sítích způsobily zmatek jak v mediálních ekosystémech obou zemí zapojených do konfliktu, tak i v dalších zemích po celém světě. Celkově jsme svědky počátků tohoto fenoménu, který se pomalu, ale jistě šíří. Digitální média přispěla k vytváření zkresleného vnímání politické reality, což vedlo k rostoucí polarizaci napříč politickým spektrem a erozi mezilidské důvěry. To vše GenAI stále více zesiluje.

Budoucí propaganda si bude i nadále hrát s Baudrillardův koncept hyperreality, který nakonec dosáhne úrovně mimikry, čímž změní „suspendaci nevíry“, kterou dnes zažíváme, a místo toho vytvoří pocit imaginární víry. Toto chápání reality neobsahuje žádné zrnko pravdy, ale spíše syntetický strom potenciálních realit, ze kterých si lze vybrat. Baudrillard popsal tento stav jako ztělesnění současné hyperreality, kterou lze nalézt především v zábavních parcích, jako je Disneyland. Uvádí: „Myšlenka Disneylandu není ani pravdivá, ani falešná; je to odstrašující stroj nastavený tak, aby omladil fikci reality obráceně“ (str. 1565). Hrozící záplava digitálních médií bude tento jev individuálně napodobovat, ale do míry, kterou je v současnosti obtížné měřit. Algoritmicky přizpůsobená propaganda pokryje digitální prostor a vytvoří simulaci čtvrtého řádu: svět, který existuje pouze v datech a rétorice jednotlivce a jeho interakcích s pokročilými digitálními stroji. To zakrývá realitu, kde je vlastní fenomenologická zkušenost zabarvována a zkreslována těmi, kdo ovládají mechanismy odstrašujícího stroje: pro komerční účely, pro politické cíle a pro krystalizaci osobního a veřejného mínění v reálném čase.

Na obzoru

Velká část toho, o čem se zde diskutovalo, se stále stává digitálně mechanizovaným monstrem, kterým se jednoho dne stane. Všichni stále krmíme dračí poklad, pan Smithy stále přetváří naše zlato v žádoucí a užitečné materiály a propagandisté ​​stále přizpůsobují své metody a stroje tak, aby odrážely naše stále více personalizované digitální životy. Jedinými zbývajícími faktory jsou časové rámce pro pokrok v kvantových počítačích, náklady na takové mechanické zázraky a infrastruktura potřebná k využití osvědčených dovedností propagandistů. Takový pokrok je stále ještě roky daleko, ale přichází. K obzoru se blíží třicet metrů vysoká vlna hyperreality. Ošuntělý člun „reality“, kterého se držíme, už prosakuje a chaos informačního moře nás volá zespodu.

Tato technologie by mohla být snadno zneužita ke zlým účelům. Mohla by však také vést k efektivnějším metodám šíření informací, informacím o mimořádných událostech v reálném čase, adaptivnímu vzdělávání a dalším specializovaným a na míru šitým zkušenostem… pokud budou zavedena vhodná a promyšlená ochranná opatření. Možná se však ukáže, že se nejedná o nic víc než o zbožné přání. Místo toho můžeme mít jen šanci zažít informační noční můru – uvězněni mezi vizemi Matrixu a Truman Show – žít ve falešné realitě, která odvádí lidi od jejich přirozeného stavu spojení a kolektivního pokroku ve prospěch kliknutí, hlasů, digitálních dolarů a dračích tužeb.

Od Joshuy Nieubuurta