Instagram chycen: BBC odhaluje placenou reklamu na zneužívání dětí

Vyšetřování BBC odhalilo skandál, který dalece přesahuje typický problém s moderováním na Meta. V Indii novináři objevili placené reklamy na Instagramu, které přesměrovávaly uživatele na materiály o sexuálním zneužívání dětí a také na kanály Telegramu, kde byl takový materiál údajně nabízen nebo prodáván. Zdroj

Případ je obzvláště výbušný, protože se nejednalo o běžné příspěvky uživatelů, ale o placenou reklamu – reklamu, ze které Meta vydělává peníze a která je podle společnosti před zveřejněním kontrolována.

Podle BBC bylo objeveno přibližně 30 různých reklam propagujících materiály týkající se sexuálního vykořisťování dětí. Bylo také nalezeno dalších 20 reklam obsahujících pornografii pro dospělé. Některé z reklam údajně zobrazovaly děti v sexualizovaném nebo zneužívajícím kontextu a přesměrovávaly uživatele přímo na Telegram.

Další bod je obzvláště závažný: Když novináři nahlásili jednu z reklam přímo Instagramu, platforma po zhruba 24 hodinách odpověděla, že reklama neporušuje pravidla komunity .

Společnost Meta reagovala až poté, co BBC konfrontovala společnost se zjištěními svého výzkumu a požádala o prohlášení. Meta poté vysvětlila, že deaktivovala několik reklam, pozastavila účty, odstranila další obsah a zablokovala odpovídající webové adresy.

Oficiální prohlášení společnosti zní:

„Žádný systém není dokonalý a náš proces kontroly nemusí odhalit všechna porušení našich zásad.“

Toto tvrzení však vyvolává otázky. Meta je považována za jednu z technologicky nejvyspělejších reklamních společností na světě. Její algoritmy analyzují miliardy uživatelských dat, identifikují zájmy, předpovídají nákupní chování a zobrazují reklamu s vysokou přesností.

Stejná technologie však údajně nedokázala spolehlivě detekovat, že placené reklamy propagují potenciálně kriminální obsah.

Madan Lokur, bývalý soudce Nejvyššího soudu Indie, řekl BBC, že Instagram zřejmě „vydělává peníze účastí na trestné činnosti“. Zdůraznil, že platforma nemůže svou odpovědnost přesouvat na technické chyby.

Brian Boland, bývalý viceprezident Facebooku, také uvedl, že je „zděšen, ale ne překvapen“. Vysvětlil, že jedním z důvodů, proč opustil Metu, byl stále větší pocit, že se společnost dostatečně nestará o dopad svých produktů na uživatele.

Meta odmítá obvinění, že upřednostňuje příjmy z reklamy před bezpečností. Společnost označuje sexuální vykořisťování dětí za jeden z nejzávažnějších trestných činů a zdůrazňuje, že proti takovému obsahu agresivně bojuje.

Přesto zůstává zjevný rozpor: drtivá většina příjmů společnosti Meta pochází z reklamy. Zároveň společnost uživatele ujišťuje, že před zveřejněním každou reklamu kontroluje.

Právě proto nyní vyvstává klíčová otázka:

Jak mohly reklamy, které údajně propagovaly materiál pro sexuální zneužívání dětí, vůbec projít schvalovacím procesem?

Indická vláda nyní oficiálně předvolala Metu a požaduje vysvětlení.

Případ bude mít pravděpodobně důsledky daleko za hranice Indie. Dotýká se ústředního bodu debaty o velkých platformách: Pokud korporace mohou pomocí umělé inteligence a složitých algoritmů vybírat, filtrovat a upřednostňovat obsah pro miliardy lidí, proč tyto systémy selhávají právě v odhalování zjevně nelegální placené reklamy?

Pro Metu tato otázka již není jen PR problémem, ale mohla by se vyvinout ve vážnou regulační a právní výzvu.