Chatboti jako cenzoři: Jak se stroj EU zaměřuje na AI pro kontrolu jazyka

Snahy o regulaci chatbotů s umělou inteligencí rostou, protože politici prosazují přísnější cenzuru obsahu.

Nezisková organizace EU DisinfoLab se sídlem v Bruselu zkoumá, jak užiteční a efektivní jsou chatboti s velkými jazykovými modely (LLM) pro pokrok v online cenzuře („umírnění“), zejména s ohledem na „dezinformace“.

Ačkoli skupina není formálně součástí EU, je zapojena do řady „antidezinformačních projektů“ financovaných EU a poskytuje politická doporučení jejím institucím a členským státům.

Jedno z těchto možných „připravovaných doporučení“ se nyní zdá být tlakem na zlepšení schopností chatbotů jako nástrojů cenzury, přičemž jako právní rámec, který by to umožnil, je zmíněn zákon EU o cenzuře, zákon o digitálních službách (DSA).

Zpráva společnosti DisinfoLab nazvaná „Podmínky (ne)služby: porovnání dezinformačních politik v textově generativním chatbotu s umělou inteligencí“ uvádí, že účelem výzkumu je prozkoumat „politiky dezinformací“ 11 předních chatbotů, aby se zjistilo, zda dělají dost, aby zabránili tomu, aby byli „zneužíváni nebo využíváni zlomyslnými aktéry“.

Jedním ze závěrů je, že podmínky použití platné pro chatboty zkoumané EU DisinfoLab jsou v současné době nedostatečné k explicitnímu vynucení cenzury a předpovídá, že „aktuálně nedostatečná“ schopnost chatbotů „umírňovat proti dezinformacím“ se bude jen zhoršovat – pokud zůstane neregulovaná.

Zde přichází na scénu DSA, která ve své zprávě tvrdí, že obecná ustanovení zákona vyžadují, aby online platformy „okamžitě odstranily nezákonný obsah poté, co se skutečně dozvěděly o jeho nezákonnosti“, což je povinnost, kterou platformy údajně nyní obcházejí tím, že se vyhýbají zahrnutí „ověření faktů“.

Evropa není jediným místem, kde se zvažují možnosti využití chatbotů jako pěšáků ve „válce proti dezinformacím“. Státní shromáždění v New Yorku chce nyní „hnat chatboty k odpovědnosti“.

Byl představen návrh (Bill 025-A222), který by tuto oblast reguloval tím, že by společnosti, které používají chatboty, byly odpovědné za neposkytnutí „přesných informací“.

Návrh zákona, který předložil demokratický poslanec zemského sněmu, má také za cíl přidat informace definované jako „zásadně zavádějící, nepřesné, nekonzistentní nebo škodlivé“ na seznam věcí, za které společnosti nemohou nést odpovědnost.

A tyto již tak široké kategorie se ještě více otevírají výkladu, protože navrhovaný text uvádí, že provozovatelé chatbotů budou považováni za odpovědné, pokud tyto typy informací povedou k finanční ztrátě – ale také k „jiné prokazatelné škodě“.