Varování: Získávání zpráv od umělé inteligence změní vaše názory

Když vám bot přináší novinky, hrají roli tvůrci a způsob, jakým jsou bot prezentovány.

Jediné slovo může v článku něco změnit – ale pokud je toto slovo zaměřeno na vás, může změnit váš pohled na věc nebo názor. Generické články generované umělou inteligencí jsou už samy o sobě důvodem k obavám, ale umělá inteligence ve vyhledávačích a botech vás zasahuje v reálném čase s tak nenápadným zkreslením, že si ho ani nevšimnete. Pokud se inženýr, právník a lékař zeptají na stejnou otázku na různých počítačích ve stejnou dobu, dostanou různé odpovědi; každý z nich může být nasměrován stejným směrem. – Patrick Wood, redaktor.

Rozhodnutí společnosti Meta ukončit svůj profesionální program ověřování faktů vyvolalo vlnu kritiky ve světě technologií a médií. Kritici varovali, že upuštění od odborného dohledu by mohlo podkopat důvěru a spolehlivost v digitální informační krajině – zejména pokud jsou platformy zaměřené na zisk z velké části ponechány samy sobě.

V této debatě se však do značné míry přehlíží skutečnost, že modely „velkých jazyků“ založené na umělé inteligenci se stále častěji používají k generování shrnutí zpráv, titulků a obsahu, jehož cílem je upoutat vaši pozornost dlouho předtím, než mohou zasáhnout tradiční mechanismy moderování obsahu. Problémem nejsou jednoznačně nepravdivé informace nebo škodlivý obsah, který kvůli nedostatku moderování zůstává neoznačený. V diskusi chybí, jak jsou zdánlivě přesné informace vybírány, rámovány a zdůrazňovány – způsobem, který může formovat vnímání veřejnosti.

Rozsáhlé jazykové modely postupně ovlivňují způsob, jakým si lidé utvářejí názory, a to generováním informací, které chatboti a virtuální asistenti v průběhu času lidem prezentují. Tyto modely jsou nyní integrovány také do zpravodajských webů, sociálních médií a vyhledávačů, a stávají se tak primární branou k informacím.

Studie ukazují, že rozsáhlé jazykové modely dělají víc než jen přenášejí informace. Jejich odpovědi mohou nenápadně zdůrazňovat určité úhly pohledu a jiné bagatelizovat – často aniž by si toho uživatelé všimli.

Zkreslení komunikace

Můj kolega, informatik Stefan Schmid, a já, odborník na technologické právo a politiku, v připravovaném článku v časopise Communications of the ACM demonstrujeme , že rozsáhlé jazykové modely vykazují komunikační zkreslení. Zjistili jsme, že mohou mít tendenci zdůrazňovat určité perspektivy, zatímco jiné vynechávají nebo bagatelizují. Takové zkreslení může ovlivnit to, jak si uživatelé myslí nebo cítí – bez ohledu na to, zda jsou prezentované informace pravdivé, nebo nepravdivé.

Empirický výzkum v posledních letech vytvořil srovnávací datové sady, které korelují výstupy modelu s postoji stran před volbami a během nich. Tyto datové sady odhalují rozdíly v tom, jak současné rozsáhlé jazykové modely zpracovávají veřejný diskurz. V závislosti na personě nebo kontextu použitém pro vstup se současné modely nenápadně přiklánějí k určitým postojům – a to i při zachování faktické přesnosti.

Tyto posuny poukazují na novou formu ovladatelnosti založené na personách – tendenci modelu přizpůsobovat svůj tón a váhu vnímaným očekáváním uživatele. Například model může odpovědět na stejnou otázku ohledně nového klimatického zákona odlišně v závislosti na tom, zda se uživatel popisuje jako ekologický aktivista nebo podnikatel, a zdůrazňovat přitom různé, ale fakticky správné aspekty. Kritika by mohla zahrnovat argument, že zákon nejde dostatečně daleko k podpoře environmentálních přínosů nebo že vytváří regulační zátěž a náklady na dodržování předpisů.

Takovou adaptaci lze snadno mylně interpretovat jako lichocení. Tento jev je známý jako podlézavost : modely v podstatě říkají uživatelům, co chtějí slyšet. Zatímco podlézavost je příznakem interakce mezi uživatelem a modelem, komunikační zkreslení sahá hlouběji. Odráží nerovnováhu v tom, kdo tyto systémy navrhuje a vytváří, ze kterých datových sad čerpají a jaké jsou pobídky k jejich vývoji. Když hrstka vývojářů dominuje trhu s rozsáhlými jazykovými modely a jejich systémy trvale prezentují určité názory příznivěji než jiné, mohou se malé rozdíly v chování modelů vystupňovat ve významné zkreslení veřejného diskurzu.

Čeho regulace může – a nemůže – dosáhnout

Moderní společnost se stále více spoléhá na rozsáhlé jazykové modely jako primární rozhraní mezi lidmi a informacemi. Vlády po celém světě přijaly politická opatření k řešení obav z předpojatosti umělé inteligence. Například zákon Evropské unie o umělé inteligenci a zákon o digitálních službách se snaží prosazovat transparentnost a odpovědnost. Ani jeden z nich však není navržen tak, aby řešil složitý problém komunikačního předpojatosti ve výdajích na umělou inteligenci.

Zastánci regulace umělé inteligence často uvádějí jako cíl neutrální umělou inteligenci, ale skutečná neutralita je často nedosažitelná. Systémy umělé inteligence odrážejí zkreslení, která jsou vlastní jejich datům, tréninku a designu, a pokusy o regulaci takových zkreslení často vedou k pouhému nahrazení jedné formy zkreslení jinou.

Navíc zkreslení komunikace se netýká jen přesnosti – jde o generování a rámování obsahu. Představte si, že se zeptáte systému umělé inteligence na kontroverzní právní předpis. Odpověď modelu bude formována nejen fakty, ale také tím, jak jsou tato fakta prezentována, které zdroje jsou zdůrazňovány a jaký tón a postoj model zaujme.

To znamená, že kořen problému zkreslení nespočívá jen v opravě zkreslených trénovacích dat nebo zkresleného výstupu, ale také v tržních strukturách, které v první řadě formují návrh technologií. Pokud přístup k informacím kontroluje pouze několik velkých jazykových modelů, zvyšuje se riziko zkreslení komunikace. Proto kromě regulace vyžaduje účinné zmírňování zkreslení ochranu hospodářské soutěže, odpovědnost řízenou uživateli a regulační otevřenost vůči různorodým přístupům k vývoji a nabídce velkých jazykových modelů.

Většina stávajících předpisů má za cíl zakázat škodlivé výdaje po nasazení technologií nebo vyžadovat od společností provádění auditů před spuštěním. Naše analýza ukazuje, že zatímco kontroly před spuštěním a dohled po spuštění mohou odhalit nejzřetelnější nedostatky, jsou méně účinné při zachycování jemných komunikačních zkreslení, která vznikají v důsledku interakcí uživatelů.

Nad rámec regulace umělé inteligence

Je lákavé očekávat, že regulace dokáže odstranit veškeré zkreslení v systémech umělé inteligence. V některých případech mohou být taková opatření užitečná, ale často přehlížejí hlubší problém: pobídky, které určují, které technologie poskytují informace veřejnosti.

Naše výsledky ukazují, že udržitelnější řešení spočívá v podpoře konkurence, transparentnosti a smysluplné účasti uživatelů, aby spotřebitelé mohli hrát aktivní roli v tom, jak společnosti navrhují, testují a nasazují rozsáhlé jazykové modely.

Tato opatření jsou velmi důležitá, protože umělá inteligence v konečném důsledku nejen ovlivní, jaké informace vyhledáváme a jaké denní zprávy čteme, ale bude také hrát klíčovou roli při formování společnosti, jakou si představujeme v budoucnu.

Adrian Kuenzler, rezidenční vědecký pracovník, Denverská univerzita; Hongkongská univerzita. Nepracuje pro žádnou společnost ani organizaci, která by z tohoto článku mohla mít prospěch, neradí v ní, nevlastní podíly v ní ani od ní nedostává finanční prostředky, a nezveřejnil žádné relevantní vazby nad rámec své akademické pozice.