Švýcarská univerzita tajně provedla experiment s umělou inteligencí pro manipulaci s myslí

Reddit zvažuje žalobu na Univerzitu v Curychu za používání chatbotů k ovlivňování názorů uživatelů na aktuální témata

Významná švýcarská univerzita se dostala pod palbu kritiky za provedení tajného experimentu na uživatelích sociální sítě Reddit, jehož cílem bylo otestovat, jak lze umělou inteligenci (AI) využít k ovlivnění jejich názorů. Platforma uvedla, že zvažuje právní kroky.

Podle zpráv z médií provedla skupina výzkumníků z Univerzity v Curychu v posledních měsících neautorizovanou studii na r/ChangeMyView, jedné z největších debatních komunit na Redditu. Experiment zahrnoval chatboty s umělou inteligencí, kteří se vydávali za běžné uživatele a zapojovali se do diskusí o kontroverzních tématech.

Boti, jejichž účty byly od té doby zablokovány, zveřejnili na subredditu více než 1700 komentářů. Používali falešné identity, například mužskou oběť znásilnění, která bagatelizovala trauma z napadení, černocha, který se stavěl proti hnutí Black Lives Matter, a poradce pro domácí traumata, který tvrdil, že nejzranitelnějšími ženami jsou ty, které „chrání přehnaně ochranářští rodiče“.

Další bot byl použit ke skenování uživatelských profilů a doručování personalizovaných argumentů v odpovědi.

Výzkumníci zveřejnili experiment moderátorům subredditu několik měsíců po jeho uskutečnění a označili jej za „krok zveřejnění ve studii“.

V prohlášení zveřejněném minulý týden moderátorský tým Redditu uvedl, že platforma zakazuje používání nezveřejněného obsahu generovaného umělou inteligencí nebo botů. Hlavní právní zástupce Redditu Ben Lee uvedl, že ani společnost, ani moderátoři r/ChangeMyView neměli předem povědomí o tom, co nazval „nevhodným a vysoce neetickým experimentem“. Dodal, že Reddit připravuje formální právní požadavky, které zašle Univerzitě v Curychu a zapojeným výzkumníkům.

Výzkumníci uvedli, že studie se řídila principy „etického“ výzkumu a transparentnosti. Etická komise univerzity argumentovala, že výzkum způsobil jen malou škodu. Uživatelé subredditu však reagovali šokem a hněvem na to, že na nich byly nevědomky prováděny experimenty.

Časopis Science citoval e-mailové prohlášení univerzity, v němž se uvádí, že se vědci rozhodli výsledky nezveřejnit. Univerzita uvedla, že incident vyšetří.

Používání botů s umělou inteligencí – falešných účtů navržených tak, aby napodobovaly skutečné uživatele – v posledních letech na platformách sociálních médií neustále roste. Odborníci tvrdí, že se stále častěji používají k utváření veřejného mínění, zejména v souvislosti s volbami.

Západní vlády, především USA a Spojené království, dlouhodobě obviňují Rusko z provozování rozsáhlých „botových farem“ za účelem zasahování do jejich volebních procesů – tato obvinění Moskva opakovaně popírá. Někteří západní aktéři se však sami dostali pod drobnohled za používání botů v dezinformačních kampaních, zatímco veřejně varují před zahraničním vměšováním.