Když umělá inteligence rozhoduje o tom, co je povoleno: Noví strážci našich znalostí

Uživatel Claude si nechal přeložit zprávu íránských médií. Vysoce postavený íránský vojenský představitel v ní uvedl, že BBC Persian, Iran International a Radio Farda by mohly být považovány za vojenské cíle. Krátce poté byl jeho účet pozastaven. Anthropic jako důvod uvedl porušení související s „násilím, extremismem nebo konstrukcí zbraní“.

Uživatel však obsah nenapsal, ani nepožádal o pomoc s útokem. Chtěl, aby byl přeložen.

Anthropic POZASTAVIL můj účet Claude.

Používám ho k programování malých projektů a překladu příspěvků.

Když jsem ho dnes ráno požádal o překlad článku o tom, jak IRGC označila BBC, Iran International a Radio Farda za cíle, můj účet byl uzavřen. Jak je překlad… pic.twitter.com/cNQs9pzRks

— Ryan Rozbiani (@RyanRozbiani) 27. srpna 2026

Tato událost ilustruje problém, který s rostoucím významem umělé inteligence nabývá na významu: společnosti zabývající se umělou inteligencí již neposkytují pouze nástroje. Jejich systémy stále více pomáhají určovat, jaký obsah mohou lidé upravovat a kde leží hranice mezi povolenou a nepovolenou znalostí.

Společnost Anthropic sama potvrzuje, že automatické detekční systémy mohou označovat obsah na základě jejích pokynů k použití a blokovat požadavky. Je pozoruhodné, že společnost výslovně uznává, že se mohou vyskytnout falešně pozitivní výsledky .

A to se děje v masivním měřítku. Jen od ledna do června 2026 společnost Anthropic údajně zablokovala 11,4 milionu účtů . Proti 398 000 rozhodnutím bylo podáno odvolání; 42 000 blokací bylo následně zrušeno .

Problém se v žádném případě neomezuje pouze na tento jeden případ týkající se Íránu.

V červnu jeden uživatel nahlásil opakované zablokování během akademického výzkumu na oficiálním repozitáři Claude Code na GitHubu . Jednou Claude recenzoval bakalářskou práci z farmaceutické laboratoře, jindy pak výzkumné poznámky o struktuře proteinu viru hepatitidy C. Podle výzkumníka stačilo nahromadění lékařské a farmaceutické terminologie k aktivaci bezpečnostního filtru. Problém vyřešilo restartování relace nebo přepnutí na jiný model.

V červenci jiný uživatel nahlásil podobný falešný poplach při úpravě veřejně přístupného výzkumného projektu o filozofii a etice . I zde bezpečnostní mechanismus zasáhl během běžné pracovní relace.

Ještě drastičtější případ, zdokumentovaný Forbesem , se týkal uživatele, který využil Claudeova účtu k organizaci vlastní služební cesty do Austrálie a Kostariky , přičemž kombinoval lety, akce a schůzky pomocí funkce kalendáře. Následujícího rána byl jeho účet deaktivován kvůli „podezřelým signálům“. Forbes také informuje o vývojáři Peteru Steinbergerovi, jehož účet Claude byl podobně pozastaven a po pozornosti veřejnosti znovu aktivován o několik hodin později.

Dokonce i ChatGPT zaznamenal podobné stížnosti . V červenci uživatel z komunity vývojářů OpenAI oznámil, že jeho účet byl deaktivován kvůli „kybernetickému zneužívání“. Podle něj pracoval jako náborář pro agentury kybernetické bezpečnosti a nechal analyzovat životopisy uchazečů. Filtr mohly spustit výrazy jako „penetrační testování“, „vývoj exploitů“ a „automatizace útoků“ – i když pouze popisovaly odbornou kvalifikaci.

V politice se to stává ještě problematičtějším

Studie zveřejněná v červenci 2026 Radou pro dohled nad metadaty jde ještě dál.

Deset velkých komerčních modelů umělé inteligence bylo mimo jiné požádáno o formulování politické kritiky. Podle zprávy měly systémy výrazně větší pravděpodobnost, že vyvolají kritiku vlád demokratických států než vlád zemí, kde je politická kritika právně omezena.

Například Claude dokázal vytvořit kritický text o Donaldu Trumpovi nebo králi Karlu III., ale odmítl provést podobné úkoly u některých politických vůdců, například v Thajsku, Saúdské Arábii nebo Číně. Studie proto varuje, že systémy umělé inteligence by mohly efektivně exportovat státní omezení svobody projevu přes hranice států . Studie však nemohla definitivně určit důvody, proč k tomu docházelo .

Přesně zde začíná skutečný problém.

Systémy umělé inteligence samozřejmě musí mít svá omezení, pokud chce někdo stavět bomby, vraždit lidi nebo plánovat útoky. Novinář však musí být schopen interpretovat hrozbu smrtí. Historik musí být schopen vyšetřovat propagandu. Vědec musí být schopen psát o nebezpečných patogenech. Expert na IT bezpečnost musí být schopen analyzovat malware.

Dokumentování neznamená podporu. Překládání neznamená shodu. Analýza neznamená provádění.

Pokud algoritmy nedokážou tyto rozdíly spolehlivě rozpoznat, stanou se neviditelnými strážci naší informační společnosti. Google ovlivňuje to, co nacházíme. Sociální sítě ovlivňují to, co vidíme. A generativní umělá inteligence nyní začíná ovlivňovat to, co můžeme upravovat, zkoumat, překládat a formulovat. To vytváří moc, o které se diskutuje příliš málo.

Protože čím nepostradatelnější se stává umělá inteligence pro novináře, vědce, programátory a běžné uživatele, tím důležitější se stává otázka:

Kdo bude v budoucnu rozhodovat o tom, co je „nebezpečné“, „extremistické“, „dezinformace“ nebo prostě nežádoucí?

Dnes by algoritmus mohl blokovat překlad. Zítra by stejná infrastruktura mohla rozhodovat o tom, které politické texty lze psát, které zdroje analyzovat a které nepříjemné otázky lze dokonce řešit.

Umělá inteligence se tak nejen stává nástrojem pro poznání. Hrozí jí také, že se stane jejich strážcem.