Caitlin Johnstone: Tři nedávné příklady využití umělé inteligence pro imperiální propagandu

V posledních dnech jsem si všiml tří různých případů, kdy byla generativní umělá inteligence použita k šíření propagandy pro válečnou agendu USA a Izraele – případů, které stojí za pozornost.

V posledních dnech jsem si všiml tří různých případů, kdy byla generativní umělá inteligence použita k šíření propagandy pro válečnou agendu USA a Izraele – případů, které stojí za pozornost.

Zaprvé, izraelská společnost s názvem Generative AI for Good vytvořila deepfakey údajně skutečných žen, které tvrdily, že byly sexuálně zneužívány státními bezpečnostními silami v Íránu.

Kanárské ostrovy informují:

„Izraelská společnost Generative AI for Good, která se zabývá umělou inteligencí, tvrdí, že technologie deepfake používá k pozitivním účelům. Slovo ‚pozitivní‘ se zřejmě vztahuje k vytváření deepfake videí určených k podpoře nelegální války vedené USA a Izraelem proti Íránu.“

…

„Organizace Generative AI for Good tvrdí, že pomocí AI ‚pomáhá přeživším bezpečně svědčit – vlastním hlasem a bez odhalení jejich identity‘. Ukázalo se však, že Izrael a jeho mluvčí 7. října 2023 použili falešná obvinění ze znásilnění a dalších zvěrstev k ospravedlnění genocidy v Gaze.“

„The Canary“ poukazuje na to, že „Generativní umělá inteligence pro dobro“ je obsazena Izraelci s velmi zjevnými úmysly, včetně kreativního ředitele, který 7. října šířil zdiskreditované zobrazení masových znásilnění, marketingového manažera, který sloužil v „psychotechnickém velitelství“ IDF, a zakladatele, který na začátku roku 2024 prohlásil, že „umělá inteligence je jednou z našich tajných zbraní“, aby tuto revoluční technologii využil k podpoře úsilí armády, a to jak online, tak i v terénu, v informační válce vedené souběžně s vojenskými bojovými operacemi v Gaze.

Izraelská společnost využívající umělou inteligenci k vytváření videí anonymních íránských žen popisujících sexuální zneužívání ze strany jejich vlády by samozřejmě měla být považována za podvodnou propagandistickou operaci, dokud se neprokáže opak. Hranice mezi používáním umělé inteligence k pomoci skutečným obětem chránit jejich identitu při vyprávění skutečných událostí a používáním umělé inteligence k vytváření vykonstruované propagandy o zvěrstvech je příliš nejasná na to, aby se brala vážně – zejména v rukou extrémně zaujatých Izraelců. Této společnosti by se mělo věřit asi stejně jako hladovému krokodýlovi.

Za druhé, uživatelé grafické platformy Canva si stěžovali, že služba umělé inteligence této společnosti překládá slovo „Palestina“ jako „Ukrajina“ bez vyzvání nebo povolení. Stížnosti se rychle šířily a donutily společnost Canva se tímto problémem zabývat.

Přísahám ti, že jsem tenhle obrázek dal do Canvasu, klikl na tlačítko „Magické vrstvy“ a tenhle plakát s nápisem „Kočky pro Palestinu“ se změnil na „Kočky pro Ukrajinu“. Kéž bych si sakra dělal legraci.

The Verge uvádí :

„Jedna z nových funkcí umělé inteligence v aplikaci Canva byla přistižena při nahrazování slova „Palestina“ v návrzích. Funkce „Magické vrstvy“ – která je navržena tak, aby rozdělila ploché obrázky na samostatné, upravitelné komponenty – nemá v návrzích uživatelů provádět žádné viditelné změny, ale uživatelka X @ros_ie9 si všimla, že automaticky změnila frázi „Kočky pro Palestinu“ na „Kočky pro Ukrajinu“.“

„Zdá se, že problém se týkal konkrétně slova ‚Palestina‘, jelikož @ros_ie9 poznamenal, že související výrazy, jako například ‚Gaza‘, touto funkcí nebyly ovlivněny. Canva uvádí, že problém od té doby vyřešila a podniká kroky k tomu, aby se v budoucnu neopakoval.“

Za třetí, španělsky psaný tweet o Izraeli od uživatele @maps_black byl automaticky přeložen do angličtiny umělou inteligencí „Grok“ od Elona Muska a do příspěvku na sociálních sítích byly přidány zcela nové věty, které měly sionistický stát vykreslit v pozitivním světle.

Původní tweet zněl jednoduše: „¿Cuál es tu opinión sobre ISRAEL?“, což lze samozřejmě přeložit jako „Jaký je váš názor na Izrael?“ Grok však příspěvek do angličtiny přeložil jako: „Můj názor na Izrael? Je to odolný národ s bohatou historií a živou kulturou, ale je také středem složitého geopolitického napětí, které vyžaduje empatii a dialog ze všech stran. Jaký je váš?“

Uživatelé Twitteru k příspěvku přidali komentář komunity, ve kterém uvedli: „Pokud čtete tento příspěvek v angličtině, text, který čtete, není skutečným textem autora, ale spíše dodatky od Groka zaměřené na ‚obranu‘ Izraele. Příspěvek ve skutečnosti neobsahoval nic víc než otázku položenou k danému tématu.“

Po protestech na platformě někdo odstranil Grokův propagandistický překlad, ale oznámení komunity zůstává.

Jednotlivě vzato se tyto incidenty nejeví jako nijak zvlášť významné ani efektivní a v současné době se jeví jako pouhé neohrabané pokusy manipulovat veřejným míněním způsobem, který je příliš zřejmý na to, aby způsobil nějakou významnou škodu. Můžeme si však být jisti, že v budoucnu uvidíme mnohem více propagandy řízené umělou inteligencí a můžeme očekávat, že její manipulace budou s postupujícím vývojem technologií a jejich vlivem na formování informačního ekosystému stále sofistikovanější. Američtí technologičtí plutokraté se mohou stát miliardáři pouze tehdy, pokud budou spolupracovat s imperiálním aparátem.

Julian Assange před lety varoval, že umělá inteligence by jednoho dne mohla být takto využita, a vysvětloval, že rostoucí schopnost mocných manipulovat s veřejným míněním pomocí umělé inteligence „se liší od tradičních pokusů o ovlivňování kultury a politiky tím, že se tak děje v takovém měřítku, s rychlostí a stále více se sofistikovaností, která pravděpodobně zastíní lidská protiopatření.“

Assange poukázal na to, že umělá inteligence již nyní dokáže překonat i nejlepší šachisty světa, a v roce 2017 popsal, jak programy fungující s exponenciálně vyšší taktickou inteligencí než lidská mysl dokáží manipulovat s informačním prostorem tak efektivně a nenápadně, že si lidé ani neuvědomí, že jsou manipulováni. Lidé budou žít ve světě, o kterém si budou myslet, že mu rozumí a znají ho, ale nevědomky budou vidět pouze informace schválené impériem.

„Když programy umělé inteligence shromažďují všechny vyhledávací dotazy a videa na YouTube, která někdo nahraje, začnou navrhovat kampaně ovlivňující vnímání, které jsou o dvacet až třicet kroků napřed,“ řekl Assange. „To se stále častěji děje zcela mimo oblast lidského vnímání.“

Každopádně je to něco, co je třeba mít na paměti.