PsyWar: ​​Boti s umělou inteligencí manipulují s vašimi emocemi

PsyWar: ​​Umění psychologické války

Využívání psychologie k ovlivňování lidí není nová taktika; používá se po staletí k formování vnímání a jednání jednotlivců i skupin. Dnes se psychologická válka (psywar) zdokonaluje pomocí umělé inteligence (AI), zejména botů pro sociální média určených k manipulaci s emocemi a ovládání narativů. Tito boti, často nazývaní „sockpuppets“, jsou automatizované nebo poloautomatické účty, které napodobují lidské chování, aby šířily cílené zprávy, zasévaly dezinformace nebo zesilovaly veřejné mínění. Podle zprávy Centra pro podnikání a lidská práva Stern na NYU tvoří tito boti přibližně 15 % aktivních účtů na Twitteru a jejich dopad na veřejné mínění může být značný.

Jak fungují PsyWar boti?

Boti PsyWar používají sofistikované algoritmy k interakci s uživateli na sociálních sítích, často s využitím technik určených k vyvolání emocionálních reakcí, jako je strach, hněv nebo pobouření. Tito boti dokáží:

• Cílená distribuce obsahu: Sdílejí nebo retweetují obsah, který je v souladu s přesvědčeními nebo předsudky jejich cílové skupiny, aby zvýšili jejich zapojení.
• Používejte emocionální jazyk: Analýzou uživatelských dat boti vybírají slova a fráze, které vyvolávají silné emocionální reakce, jak je popsáno ve studii MIT , která ukázala, že falešné informace se šíří šestkrát rychleji než pravdivé informace.
• Podpora polarizace: Boti zesilují rozpory tím, že prosazují protichůdné narativy, což vede k efektu „ozvěnové komory“, jak zdůrazňuje zpráva Oxfordského internetového institutu .
• Napodobování lidského chování: Pokročilí boti používají umělou inteligenci k vedení konverzací, které vypadají autenticky, a často uživatele klamou, aby si mysleli, že interagují se strojem.

Například během amerických voleb v roce 2016 studie Univerzity Jižní Kalifornie identifikovala přibližně 19 % tweetů souvisejících s volbami jako generované boty, kteří záměrně zesilovali polarizující témata, jako je imigrace nebo rasové otázky.

Role umělé inteligence v zesilování psychické války

Umělá inteligence výrazně vylepšila schopnosti botů PsyWar. Díky strojovému učení tito boti dokáží:

• Analyzujte uživatelské profily v reálném čase a přizpůsobte obsah individuálním preferencím, politickým sklonům nebo emocionálním spouštěčům.
• Používejte zpracování přirozeného jazyka (NLP) k generování odpovědí podobných lidským, jako je tomu u modelů jako GPT-3 nebo novějších iterací.
• Koordinace tisíců účtů současně s cílem vytvořit dojem široké podpory určité myšlenky nebo hnutí – jev známý jako „astroturfing“.

Zpráva Centra excelence pro strategickou komunikaci NATO zjistila, že boti pohánění umělou inteligencí byli používáni během geopolitických událostí, jako byly protesty v Bělorusku v roce 2020, k šíření dezinformací a manipulaci s veřejným míněním.

Dopad na společnost

Šíření botů PsyWar má dalekosáhlé důsledky:

• Eroze důvěry: Šířením dezinformací boti podkopávají důvěru v média, instituce a dokonce i mezilidské vztahy.
• Manipulace veřejného mínění: Boti mohou ovlivňovat volby, protesty nebo politická hnutí tím, že zesilují narativy, které upřednostňují určité aktéry.
• Psychický stres: Neustálé vystavení manipulativnímu obsahu může vyvolat strach, hněv nebo apatii, což ovlivňuje duševní zdraví uživatelů.

Podle studie Pew Research Center se 66 % expertů domnívá, že manipulace řízená umělou inteligencí bude do roku 2025 dominovat digitální krajině, což dále zkomplikuje schopnost lidí rozlišovat mezi pravdou a lží.

PsyWar v době zdravotní krize

Během pandemie COVID-19 hráli boti PsyWar významnou roli v šíření dezinformací o vakcínách, rouškách a léčbě. Studie Centra pro boj s digitální nenávistí zjistila, že až 65 % antivakcinačního obsahu na Twitteru a Facebooku pocházelo z pouhých 12 účtů, z nichž mnohé byly zesíleny boty. Tito boti používali emocionální spouštěče – jako je strach z vedlejších účinků nebo nedůvěra k farmaceutickým společnostem – k zasévání pochybností.

Například boti šíří narativy jako „vakcíny způsobují neplodnost“ nebo „roušky škodí zdraví“, často s odkazem na falešné studie nebo zkreslená data. Ukázalo se, že takové kampaně vedou k nižší míře proočkovanosti v určitých komunitách, jak dokumentuje zpráva Světové zdravotnické organizace .

Jak se můžete chránit před boty PsyWar?

Boj proti botům PsyWar vyžaduje jak individuální ostražitost, tak i systémová opatření:

• Kritické myšlení: Ověřujte si zdroje a zpochybňujte obsah, který vyvolává silné emocionální reakce. Platformy jako Snopes nebo FactCheck.org mohou pomoci identifikovat dezinformace.
• Mediální gramotnost: Naučte se rozpoznávat automatizované účty, které vynikají opakujícím se jazykem, nadměrným sdílením nebo nedostatkem osobních údajů.
• Technologická řešení: Některé společnosti vyvíjejí nástroje umělé inteligence pro detekci botů, jako je například Botometer, který provozuje Indiana University .
• Regulační opatření: Vlády a platformy musí zavést přísnější politiky k omezení šíření dezinformací botů, jak to EU hodlá udělat prostřednictvím zákona o digitálních službách .

Závěr

Psychologičtí boti pohánění umělou inteligencí představují v digitální éře rostoucí problém. Jejich schopnost manipulovat s emocemi a ovládat narativy představuje hrozbu pro demokracii, veřejné zdraví a sociální strukturu. Technologie je sice dvousečná zbraň – umožňuje jak manipulaci, tak i protiopatření – ale odpovědnost za omezení šíření těchto botů leží na jednotlivcích, vládách a platformách. Budoucnost informační krajiny závisí na tom, jak efektivně se s touto výzvou vypořádáme.