Umělá inteligence jako soudce života a smrti: Generální ředitel YouTube chce zcela předat kontrolu algoritmům

Společnost, která vybudovala globální platformu pro lidské vyjádření, stále více chce, aby algoritmy rozhodovaly o tom, kdo si ponechá mikrofon.

Generální ředitel YouTube Neal Mohan, nedávno jmenovaný generálním ředitelem roku 2025 časopisu TIME, se s časopisem setkal, aby přednesl mistrovskou lekci podnikatelského optimismu.

S nadšením někoho, jehož každodenní video nikdy nebylo nahlášeno jako „explicitní obsah“, protože se příliš srdečně smál, Mohan popsal „Severní hvězdu“ své společnosti jako „jako, která dává každému hlas“.

Pak bez mrknutí oka vysvětlil, jak umělá inteligence vylepší již tak nechvalně známý cenzurní stroj YouTube.

„Umělá inteligence vytvoří zcela novou třídu tvůrců, kteří to dnes nedokážou, protože nemají dovednosti ani vybavení,“ řekl. „Ale bude platit stejné pravidlo: bude existovat dobrý obsah a špatný obsah a bude na YouTube a našich investicích do technologií a algoritmů, abychom to dostali do popředí.“

YouTube chce web naplnit obsahem generovaným umělou inteligencí a zároveň pomocí jiné umělé inteligence rozhodovat o tom, co zůstane online. Kruh života platformy, řízený kódem, utvářený kódem, vyčištěný dalším kódem.

A co úplné odstranění tvůrců? To je také součástí plánu.

„Umělá inteligence zlepší a zdokonalí naši schopnost detekovat a vynucovat obsah porušující pravidla a umožní nám zvládat velký rozsah,“ prohlásil Mohan. „Její schopnosti se doslova zlepšují každý týden.“

Mohan hovoří o systému umělé inteligence, který již neprávem smazal tvůrce napříč platformou, přičemž YouTube jeho roli v závislosti na tiskové zprávě bagatelizuje nebo přímo popírá.

Na společnost, která se údajně snaží „dat hlas každému“, strávila jejich mazáním spoustu času.

Mohanovy rozhovory se čtou jako sci-fi scénář, v němž benevolentní vládce trvá na tom, že stroje jsou tu proto, aby pomohly. Mezitím youtubeři v reálném světě bojují za digitální ekvivalent habeas corpus.

Pak je tu Enderman, tvůrce specializující se na technologie a malware s více než 350 000 odběrateli. Jeho kanál byl zrušen poté, co ho YouTube omylem propojil s jiným, nesouvisejícím kanálem, který byl nahlášen za porušení autorských práv.

Stejný příběh se stal hernímu kanálu Scrachit Gaming a tvůrci animací 4096. Všechny tři byly moderačním systémem YouTube propojeny s fiktivní hrozbou namířenou proti jednomu kanálu a byly zrušeny.

Po negativní reakci byly jejich kanály v listopadu obnoveny. YouTube trvá na tom, že se nejednalo o rozhodnutí řízená umělou inteligencí. Mluvčí serveru Mashable sdělil, že k těmto smazáním „nebyla provedena automatizovanou akcí“.

Ale v listopadu YouTube tiše aktualizoval své Často kladené otázky k tématu „Moderace obsahu a odvolání“ a přiznal, že „k identifikaci a ukončení souvisejících kanálů využívá automatizaci i lidi“. Jaká je tedy pravda? Lidská chyba, nebo sabotáž robotů? To neřeknou. Doufají, že si toho nikdo nevšimne.

Populární YouTuber MoistCr1TiKaL nepotřeboval komisi, aby posuzovala Mohanovu vizi.

„Na YouTube jsme neviděli nic pozitivního v důsledku používání těchto nástrojů umělé inteligence, o kterých Neal tak hovoří. Jsou to momentálně zatracená pohroma,“ řekl. „Umělá inteligence by nikdy neměla být soudcem, porotou a katem… Zdá se, že Neal má na mysli jinou vizi.“

Nemýlí se. Umělá inteligence YouTube rozhodla, že klip smějícího se hororového hráče SpooknJukese je „explicitní obsah“. Video demystifikovala, věkově omezila a donutila tvůrce smích vystřihnout, aby znovu získal monetizaci. Ano, smích.

Snímek obrazovky příspěvku na sociálních sítích, ve kterém si uživatel stěžuje, že jeho sestřihy streamu byly věkově omezeny kvůli „násilnému grafickému obsahu“, přestože zvýrazněné časové razítko je detailní záběr jeho smíchu s vloženým dialogovým oknem zásad YouTube zobrazujícím pozastavené video, zprávu o věkovém omezení a metadata o zhlédnutí/čase ve spodní části.

V říjnu byla odstraněna videa technologických youtuberů Britec09 a CyberCPU Tech, protože ukazovala, jak nainstalovat Windows 11 bez účtu Microsoft. YouTube označil tutoriály za „škodlivé nebo nebezpečné“. Videa byla o měsíc později tiše a bez omluvy obnovena.

A co tvůrce Pokémonů SplashPlate? Jeho kanál byl 9. prosince z mapy odstraněn kvůli porušení pravidel pro „nízkohodnotný“ obsah. Následující den byl obnoven. Další případ, kdy systém umělé inteligence „utekl z mapy“ a utekl z mapy, tvrdí Mohan.

Mohan možná říká, že YouTube je o tom, „dat každému hlas“, ale čísla vypovídají jiný příběh. Kanály jsou omylem ukončovány. Odvolání trvají dny nebo týdny, pokud jsou vůbec posouzena. Veřejné pobouření se stalo jedinou spolehlivou metodou, jak získat technickou podporu. Ztratili jste účet? Raději doufejte, že jste trendy na X.

Nejedná se o problémy s novým nástrojem pro moderování. Je to skutečný plán YouTube: automatizovat tvorbu obsahu, automatizovat monitorování obsahu a automatizovat odstraňování uživatelů. Stejná platforma, která spustila kariéry tím, že dala amatérům volnou ruku, nyní zajišťuje, aby stroje rozhodovaly o tom, kdo zůstane.

A pokud patříte k těm nešťastníkům, na které se tento systém zaměří? Nebojte se. „Severní hvězda“ YouTube vám stále dá hlas. Stačí se ujistit, že váš hlas zní algoritmicky kompatibilně, není urážlivý pro boty a neliší se od „nových tvůrců“, které umělá inteligence YouTube hromadně chrlí.

Umělá inteligence je tu, aby vám pomohla. Stačí se zeptat lidí, které ještě neoznačila.

Christina Maas