„Smyčka zkázy“ umělé inteligence

Velké společnosti zabývající se umělou inteligencí čelí již léta obviněním z toho, že do svých systémů zabudovávají obrovské množství textu, zpráv, obrázků a dalšího obsahu třetích stran, aniž by tvůrce dostatečně odměnily. Nyní interní dokumenty odhalují, že tyto problémy byly zjevně překvapivě jasně rozpoznány i v samotných společnostech.

Nezávislá americká technologická publikace 404 Media informuje o dříve zapečetěných nebo redigovaných dokumentech z probíhajícího sporu o autorská práva, který deník The New York Times vedl proti OpenAI a Microsoftu. Patří mezi ně interní dokumenty i prohlášení vedoucích pracovníků a zaměstnanců obou společností.

Výsledný obraz je explozivní: Odvětví umělé inteligence by mohlo poškodit právě ekonomický základ, na kterém závisí – konkrétně lidi a společnosti, které produkují nové informace, texty, výzkum, umění a další obsah.

404 Media proto hovoří o „smyčce zkázy“ – začarovaném kruhu, který by mohl nakonec poškodit samotný otevřený internet.

Umělá inteligence bere obsah – a pak producenty, čtenáře

Problém lze snadno vysvětlit.

Vydavatelé zpráv, autoři, fotografové, umělci a další producenti vytvářejí obsah. Tento obsah je dostupný online a lze jej následně použít k trénování systémů umělé inteligence nebo k poskytování informací těmto systémům.

Systémy umělé inteligence pak přímo odpovídají na otázky uživatelů.

Uživatel tak obdrží shrnutí nebo odpověď – a nemusí ani znovu navštívit původní webovou stránku.

Přesně zde cyklus začíná.

Podle serveru 404 Media interní dokument společnosti Microsoft tento vývoj výslovně označuje jako „smyčku zkázy “. Podnikání v oblasti umělé inteligence ohrožuje ekonomický základ vlastního „řetězce dodavatelů obsahu“ – tedy dodavatelského řetězce obsahu, na kterém modely závisí.

To znamená, že umělá inteligence potřebuje k efektivní práci obsah vytvořený člověkem. Zároveň však může tvůrce tohoto obsahu připravit o návštěvníky, a tím i o příjmy.

Čím úspěšnější bude umělá inteligence, tím obtížnější to může být pro ty, kteří vyrábějí materiál, na kterém umělá inteligence závisí.

Společnost Microsoft vydala interní varování před krádeží „bezprecedentních rozměrů“

Ještě drastičtější je formulace z interního dokumentu společnosti Microsoft, která je citována v soudních dokumentech.

Uvádí se v něm, že miliony lidí na celém světě budou brzy považovat masové „pohlcení“ jejich práce velkými modely za „ohromující krádež nebývalých rozměrů“ .

Dokument rovněž zdůrazňuje, že prakticky nikdo původně nevytvářel svůj obsah s úmyslem jej tímto způsobem používat pro systémy umělé inteligence – a že tvůrci za něj nejsou placeni.

To je pozoruhodné, protože v probíhajícím řízení o autorská práva společnosti zabývající se umělou inteligencí současně argumentují, že školení jejich modelů by mohlo spadat pod americký princip „fair use“ a je transformativní.

Je však třeba jasně rozlišovat: Skutečnost, že interní dokument společnosti Microsoft obsahuje tak drastickou formulaci, neznamená, že se Microsoft u soudu právně přiznal k porušení autorských práv. 404 Media interpretuje dokumenty mnohem přísněji a dokonce hovoří o „krádeži“.

Doprava by se mohla prudce snížit

Ekonomické důsledky by mohly být obrovské.

Podle zprávy agentury 404 Media svědčili manažeři společnosti Microsoft, včetně generálního ředitele Satyi Nadelly, pod přísahou o masivních změnách v přesměrování návštěvnosti na zpravodajské weby. Server 404 Media uvádí, že počet kliknutí z Bingu na tyto zpravodajské weby v této souvislosti prudce klesl o více než 90 procent .

To se dostává k jádru problému.

Vydavatelství financuje novináře, výzkum, servery, fotografy a editory. Vyhledávače a další platformy pak čtenáře nasměrují na tento obsah. Pokud však umělá inteligence obsah zpracuje a uživateli přímo předloží kompletní odpověď, lze tuto návštěvu eliminovat. To je pro uživatele výhodné.

Pro výrobce to může být ekonomicky zničující.

OpenAI se vnímala jako hrozba pro vydavatele zpráv

Zdá se, že tento problém byl známý i v rámci OpenAI.

Podle soudních dokumentů analyzovaných agenturou 404 Media se OpenAI označila za „existenční hrozbu“ pro vydavatele zpráv .

Vývojář softwaru OpenAI to vyjádřil ještě jasněji: i kdyby byly odkazy na původní zdroje zobrazeny prominentně, uživatelé by na ně nutně neklikali.

Pouhé citování původního zdroje v odpovědi umělé inteligence proto nemusí stačit. Klíčové kliknutí – a s ním potenciálně i příjmy z reklamy, předplatné a dosah – již bylo ztraceno.

Je ironií, že by mohli zmizet i samotní dodavatelé umělé inteligence

Podle soudních dokumentů popsal manažer společnosti Microsoft Brent Hecht zásadní ekonomický problém: Pokud je obsah používán, aniž by se producentům vrátila část výsledné ekonomické hodnoty, nevyhnutelně to ohrožuje jejich ekonomickou stabilitu.

To vytváří pozoruhodný paradox. Společnosti zabývající se umělou inteligencí potřebují vysoce kvalitní lidský obsah.

Novináři musí bádat. Vědci musí provádět výzkum. Autoři musí psát. Fotografové musí fotografovat. Programátoři musí vyvíjet software.

Pokud však systémy umělé inteligence následně shrnují nebo reprodukují svou práci tak dobře, že uživatelé již nepotřebují původní poskytovatele, stává se produkce tohoto obsahu ekonomicky méně atraktivní.

Podle dokumentů Microsoft problém interně formuloval velmi jasně:

LLM jsou produktem, který ničí svůj vlastní dodavatelský řetězec.

V sázce nejsou jen webové stránky – v tom jsou i pracovní místa

Konflikt tedy sahá daleko za hranice autorského práva.

Podle dokumentů jeden z vedoucích pracovníků společnosti OpenAI napsal, že společnost vyvíjí systémy, které by mohly nahradit práci lidí, kteří utvářejí „kulturu“ společnosti.

Společnost Microsoft zase interně varovala, že generativní umělá inteligence by mohla výrazně narušit zaměstnanost právě těch lidí, jejichž data dříve přispívala k trénování modelů.

Vzor je vždy stejný: lidé produkují znalosti a obsah. Umělá inteligence je vybudována s využitím tohoto obsahu. Umělá inteligence pak soutěží s lidmi a společnostmi, které tento obsah vytvořily.

Přesně tam leží ta skutečná „smyčka zkázy“.

Obzvláště citlivé: obvinění z obcházení placeného přístupu New York Times

404 Media také informuje o obzvláště výbušném bodě ze soudních dokumentů.

Podle dokumentů vyvinula společnost OpenAI technické řešení, jak obejít paywall New York Times . Toto řešení se označuje jako „hack, jak obejít paywall New York Times“. Spoluzakladatel OpenAI Greg Brockman údajně reagoval slovy „aha, skvělé“.

I zde je důležitý právní kontext: Tento materiál a argumentace vycházejí z probíhajícího právního sporu. New York Times používá tyto dokumenty k podložení svých nároků na porušení autorských práv vůči OpenAI a Microsoftu. O právním posouzení nakonec rozhodne soud.

Pokud už nikdo nenavštíví původní zdroj

Zpráva agentury 404 Media tak zdůrazňuje problém, který sahá daleko za hranice OpenAI a Microsoftu.

Doposud internet fungoval na relativně jednoduchém principu: Někdo něco vytvoří – článek, video, analýzu, fotografii nebo databázi – a další lidé navštíví odpovídající webovou stránku.

Tato návštěva má ekonomickou hodnotu. Umělá inteligence tento vztah mění.

Najednou se mezi producenta a čtenáře vmísí stroj, schopný zpracovat tisíce zdrojů a okamžitě vygenerovat hotovou odpověď.

Pokud původní weby navštíví méně lidí, ztrácejí dosah a příjmy. Pokud se následně propustí redakční týmy, propustí autoři a weby se zavřou, produkuje se méně kvalitního nového obsahu.

A právě tento obsah budou systémům umělé inteligence nakonec chybět.

Jedná se o „Doom Loop“, před kterým Microsoft zřejmě interně varoval.

Ironie by sotva mohla být větší:

Umělá inteligence byla vytvořena s využitím obsahu internetu – a nyní by mohla pomoci zničit obchodní model těch, kteří tento obsah v první řadě produkují.

Rozhodující konflikt nadcházejících let se proto nemusí odehrát mezi člověkem a strojem.

Ale mnohem zásadněji:

Kdo bude v budoucnu platit lidem za tvorbu nových znalostí, žurnalistiky a kreativního obsahu, pokud pak systémy umělé inteligence převezmou kontrolu nad výsledky a uživatelé se již nebudou vracet k původnímu zdroji?

Právě tato otázka dělá zprávu 404 Media tak výbušnou.