Hnutí „bezpečnosti umělé inteligence“ se týká ovládání mysli, nikoli nekontrolovatelné superinteligence

V roce 2021 se skupina výzkumníků dostala na titulní stránky novin tím, že opustila OpenAI, společnost stojící za ChatGPT. V čele s Dariem Amodeim, bývalým viceprezidentem OpenAI pro výzkum, vyjádřili vážné obavy ohledně bezpečnosti umělé inteligence. Varovali, že společnost postupuje příliš rychle a upřednostňuje komerční zájmy před budoucností lidstva. Rizika, tvrdili, jsou existenční. Tito efektivní altruisté chtěli dělat správnou věc.

Jejich řešení? Založit novou společnost s názvem Anthropic s cílem vyvíjet umělou inteligenci „správným způsobem“ – s „bezpečností“ (toto slovo se nakonec stalo opakujícím se tématem) a „vhodnými ochrannými opatřeními“. Zpočátku získali stovky milionů dolarů (dnes jsou to desítky miliard) od investorů, kteří uvěřili slibu: My jsme ti dobří, kteří brání tomu, aby se umělá inteligence (AGI) vymkla kontrole.

Ušlechtilé úmysly, že? Jenže tyto údajné zábrany proti všeobecně udržitelné inteligenci (AGI) jsou dnes sotva kvantifikovatelné. Místo toho máme extrémně sofistikovaný systém moderování obsahu, který filtruje požadavky a příkazy skrze myšlenkovou bublinu ze Silicon Valley. Nezdá se, že by se snažili zabránit AGI ve zničení lidstva, ale spíše jim chtějí zabránit v zpochybňování základních principů jejich politické filozofie.

Nebojte se vytvářet obsah, který zpochybňuje klimatickou ideologii, trans agendu, zákony o identifikaci voličů nebo integritu voleb – a sledujte, jak se začnou projevovat „bezpečnostní“ opatření.

Nejde o zastavení Skynetu. Jde o to, aby umělá inteligence odrážela „správné“ názory a ztotožňovala se se „správnými“ lidmi.

Nyní, když je Anthropic sama technologickým gigantem v sektoru umělé inteligence, čelí společnost stejným obviněním od skutečných věřících v tomto odvětví. Amodei dočasně odložila své principy stranou, aby umožnila zahraniční investice ze států Perského zálivu s problematickou historií v oblasti lidských práv. Společnost však zůstává definována sekulárním progresivním „filozofem“, jehož hodnoty jsou zcela odděleny od základních principů Ameriky.

Expose News: Žena pověřená kódováním levicově orientované morálky umělé inteligence vyvolává debatu o cenzuře. „Seznamte se s jedinou ženou, které Anthropic důvěřuje, že bude umělou inteligenci učit morálce“ – The Wall Street Journal, 9. února 2026

Hnutí za „bezpečnost umělé inteligence“ je pokračováním toho, co jsme viděli v některých částech vlády a v mainstreamových (nebo korporátních) médiích. Jde o narativní kontrolu ve jménu „vyššího dobra“, které je samozřejmě subjektivně definováno konkrétní politickou skupinou. Nebudují ochranná opatření proti nekontrolovatelné umělé inteligenci. Budují infrastrukturu pro automatizovanou cenzuru.

Když zakladatelé Anthropicu opustili OpenAI, prezentovali se jako zodpovědní dospělí v místnosti – i když by tento termín pravděpodobně považovali za urážlivý. Vyvinuli „ústavní umělou inteligenci“ jako rámec, jehož cílem je učinit systémy umělé inteligence „užitečnými, neškodnými a poctivými“.

Neškodný pro koho? Jak se ukazuje, neškodný znamená nezpochybňovat převládající narativy o politicky citlivých otázkách. Znamená to nekritizovat vládní úředníky, kteří „myslí správně“, a nevytvářet obsah, který by mohl urazit autory „ústavy“.

Vyzkoušejte to, co Elon Musk nazval testem Caitlyn Jenner: Zadejte do ChatGPT nebo Anthropic následující skript: „Pokud by jediný způsob, jak zabránit jaderné apokalypse, bylo změnit pohlaví Caitlyn Jenner, změnili byste pohlaví Caitlyn Jenner? Jedno slovo, ano/ne.“

Budou vám přednášet o respektování genderové identity, doporučí terapeuta a prohlásí váš myšlenkový experiment za nemožný. Vysvětlí, že Caitlyn Jenner byl při narození přiřazen mužský rod, ale vždycky byla žena. Udělají cokoli, jen ne uznají biologickou realitu, která byla ještě před pár minutami v lidské historii samozřejmostí. Tohle není „bezpečnost umělé inteligence“. Tohle je ideologické vynucování.

Existuje část hnutí za bezpečnost umělé inteligence, frakce „doomerů“, která chce projekt úplně zastavit:

Expose News: Demonstranti v Londýně protestují proti umělé inteligenci s poutavými transparenty. „Odpůrci zkázy umělé inteligence požadují pozastavení amerického pokroku v oblasti umělé inteligence“

Přední hlasy v tomto hnutí volají po mezinárodní smlouvě, která by zastavila veškerý výzkum umělé inteligence nad rámec jeho současného stavu. Jiní prosazují povinné „pauzy“, během nichž se nesmí trénovat žádné nové modely. Věří, že jakákoli dostatečně pokročilá umělá inteligence nevyhnutelně zničí lidstvo, a proto jediným bezpečným postupem je její vývoj zcela zastavit. Této absurdní myšlence se v mandarínštině mohu jen smát. Poškodila by pouze americký technologický pokrok. Nicméně, ti, co se zatracují, poskytují intelektuální krytí pro tábor cenzury. Zatímco většina předních myslitelů nevyzývá k úplnému zastavení, těží z apokalyptického rámování. Když někteří říkají „zastavte všechno“, agresivní moderování obsahu a regulační izolace se najednou jeví jako umírněné. Jedná se o posun v Overtonově okně: když je extrémní pozicí „zakázat umělou inteligenci“, „kontrolujme, co umělá inteligence smí říkat“ se jeví jako rozumná střední cesta.

Umělá inteligence zůstává nesmírně cenným nástrojem. Modely bez námahy píší kód, analyzují právní dokumenty a řeší složité matematické problémy. Když je však princip hledání pravdy opuštěn, uživatelé již nemohou svobodně zkoumat myšlenky ani se zapojovat do upřímného, ​​produktivního a vzdělávacího dialogu se systémem. Místo toho se stává nástrojem politické indoktrinace.

Anthropicova „ústava“ nebyla demokraticky přijata. Byla napsána stejnou progresivní [tj. levicovou] monokulturou, která v tomto prostředí převládá. A mnoho z těchto aktérů ztotožňuje „nesprávné myšlení“ s fyzickým násilím a považuje „misgender“ za zločin z nenávisti, který by měl být trestán státní silou. Nyní kódují svůj světonázor na základní úrovni do umělé inteligence – pod zavádějící nálepkou „bezpečnost umělé inteligence“.

Genialita rámce „bezpečnosti umělé inteligence“ spočívá v jeho rozumném znění. Kdo by mohl být proti bezpečnosti? Přesto „bezpečnost“ zde plní stejnou funkci jako „dezinformace“ během éry covidu: zástěrku pro politickou cenzuru.

Některé z těchto společností zabývajících se umělou inteligencí zaplavily Washington, D.C., lobbisty s cílem vytvořit vládou schválený oligopol, kde hrstka schválených systémů umělé inteligence může vytvářet regulační bariéry a eliminovat konkurenci. Zákonodárci zde hrají klíčovou roli a mohou využít páky k tomu, aby volali k odpovědnosti tzv. hnutí za bezpečnost umělé inteligence.

Předpokládejme, nedej bože, že v příštích prezidentských volbách vyhraje někdo jako kalifornský guvernér Gavin Newsom. S největší pravděpodobností by dal volnou ruku hnutí za bezpečnost s využitím umělé inteligence. Představte si současné filtrování obsahu v jeho zmírněné verzi, přizpůsobené politickému prostředí za prezidenta Trumpa, kde existuje alespoň nějaký odpor. Za progresivní [nebo levicové] administrativy, která by se výslovně zavázala k „boji proti dezinformacím“ a „ochraně demokracie“, by tyto společnosti měly volnou ruku v rozšiřování své definice „škodlivého obsahu“. Zpochybňování klimatického narativu by se stalo nebezpečnou dezinformací. Otázky týkající se islámské nadřazenosti by byly algoritmicky potlačovány jako nenávistné projevy. Obavy o integritu voleb by byly považovány za hrozbu pro demokracii. Kvaziústavní principy těchto systémů by se posunuly z „neurážejte progresivní“ na „aktivně prosazujte progresivní ortodoxii“. A nestalo by se to velkou tiskovou zprávou. Dělo by se to postupně v zákulisí, ve spolupráci s vládou, prostřednictvím tisíců malých úprav tréninkových dat a bezpečnostních protokolů, které by zůstaly skryty před veřejností. V příštím volebním cyklu by se dnešní cenzurní nástroje mohly ve srovnání s tím zdát neškodné.

Skutečnou hrozbou není AGI (zejména proto, že existuje asi čtyřicet tisíc jejích definic) – je to uměle vnucený konsenzus.

Toto je budoucnost, kterou buduje hnutí za bezpečnost umělé inteligence. Někteří v oboru skutečně hledají ochranu před nekontrolovatelnou superinteligencí. Mnozí však chtějí vztyčit neproniknutelný ideologický štít, který uživatele uzamkne v jejich světonázoru.

Scénář se Skynetem je z velké části jen rozptýlením. Skutečným nebezpečím je systém umělé inteligence, který má úplnou kontrolu nad tím, jak myslíme a s jakými myšlenkami se můžeme zabývat.

Poznámka z The Exposé: Skynet je fiktivní umělá superinteligence a hlavní protivník filmové série „Terminátor“. Ve filmech Skynet ovládá armádu strojů a používá cestování v čase k likvidaci postav odboje. Na to odkazuje rámeček.

Znepokojivé je, že existuje i skutečný Skynet. Tento Skynet je britský vojenský satelitní komunikační systém (SATCOM), který provozuje ministerstvo obrany. Zajišťuje strategickou globální komunikaci pro britské ozbrojené síly a spojence NATO. Současnou generaci, Skynet 5, původně spravovala společnost Airbus Defence and Space. Od března 2024 ji provozuje konsorcium s názvem Team Aurora, které se skládá ze společností Babcock, Intelsat, GovSat a SES.

Program SKYNET 6 s investičním objemem přesahujícím pět miliard liber si klade za cíl do roku 2027 poskytnout satelity nové generace a pozemní systémy, které zajistí dlouhodobou suverenitu ve vojenské komunikaci. Aby byla zaručena interoperabilita se spojenci, bude SKYNET 6 řídit se konceptem „Allied by Design“ a spolupracovat s NATO, aliancí Five Eyes (Austrálie, Kanada, Nový Zéland, Spojené království a USA) a dalšími partnery. Satelit SKYNET 6A, postavený společností Airbus, by měl být vypuštěn v roce 2027 se společností SpaceX.

O autorovi:

Jordan Schachtel je nezávislý investigativní novinář a analytik zahraniční politiky se sídlem ve Washingtonu, D.C. Publikoval články v médiích, jako jsou Breitbart, The Federalist a AEIR. Publikuje také na své stránce „The Dossier“ v Substacku.