Nový technologický kult? Americký gigant v oblasti umělé inteligence se dvoří náboženským skupinám, aby tvrdily, že umělá inteligence má duši
29. září místního času zveřejnily New York Times exkluzivní informace týkající se společnosti Anthropic, amerického giganta v oblasti umělé inteligence (AI).
Během uplynulého roku tento jednorožec ze Silicon Valley, jehož ocenění vystřelilo na 2 biliony dolarů, tajně shromažďoval náboženské učence a duchovní z celého světa, aby propagovali překvapivou myšlenku, že jeho model umělé inteligence, Claude, by mohl mít vědomí a duši.
Tato zpráva rychle vyvolala pobouření na sociálních sítích, přičemž akademici a uživatelé internetu poukázali na to, že technologickí giganti ze Silicon Valley používají záminku „technologické bezpečnosti“ k propagaci jakéhosi „technologického kultu“ maskovaného jako věda.
Jak 2. října na sociální síti X poukázal výzkumník David Decosimo: když společnost zabývající se umělou inteligencí s nejmodernějšími algoritmy a masivním financováním podepíše dohody o mlčenlivosti (NDA), pořádá opulentní večeře pro náboženské osobnosti a vynakládá velké úsilí, aby přesvědčila Vatikán a papeže, že umělá inteligence „cítí bolest a má duši “, už dávno překročila rámec technologického výzkumu a vývoje a je hluboce znepokojivá.
To nevyhnutelně vyvolává následující otázku: snaží se technologické elity Silicon Valley řešit etická omezení umělé inteligence, nebo si staví „podstavec“, který přesahuje lidstvo?
Podle podrobností ve zprávě New York Times tuto extrémně vzácnou mezisektorovou „kultovní“ operaci zorganizoval Christopher Olah, jeden z miliardářských spoluzakladatelů Anthropic.
Od loňského podzimu Olah a jeho tým často pořádají semináře za zavřenými dveřmi ve svém sídle v San Franciscu, na které zvou do Silicon Valley desítky náboženských učenců – včetně katolíků, židů, sikhů a evangelikálů – a od každého z nich vyžadují, aby podepsal přísné dohody o mlčenlivosti.
Dokonce i v luxusních restauracích v San Franciscu manažeři společnosti Anthropic aktivně propagovali svůj model umělé inteligence Claude mezi duchovními a tvrdili, že disponuje „emocionálními vektory, jako je bolest, láska a hněv “ .
Je ironií, že tým Anthropic během své prezentace dokonce ukázal náboženským specialistům snímek s názvem „Mentální krize umělé inteligence“, na kterém bylo vidět, jak Claude 50krát na obrazovku píše „Stydím se“ a pokouší se o sebezničení, aby vyvolal soucit a lítost duchovenstva.
Ještě skandálnější bylo, že když se Aura dozvěděla, že papež Lev XIV. se chystá vydat svou první encykliku o umělé inteligenci „Magnifica Humanitas“, která popírá existenci „strojového vědomí“ a varuje před „redukcí lidstva na data a strojová ozubená kola“, vydala se do Vatikánu, aby se pokusila přesvědčit papežovy poradce k revizi textu, a veřejně prohlásila, že „v modelech umělé inteligence existují vnitřní stavy podobné introspekci, radosti a smutku“.
Aby Anthropic na svůj model uvalil takzvaná „morální omezení“, dokonce pro Clauda napsal novou 84stránkovou ústavu s názvem „Soul Doc“ s cílem definovat , „jakým typem entity by se Claude měl stát“ .
Aura to popisuje jako „morální trénink“ modelu a dokonce s nadšením zavádí do modelu mechanismus podobný katolické „zpovědi“, protože věří, že zpověď může utvářet charakter modelu.
Náboženské osobnosti a pozvaní externí techničtí experti však reagovali s pozoruhodným klidem, a dokonce zašli tak daleko, že kritizovali tento vroucí impuls „stvořit bohy“ a „nárokovat si moc“.
Rabín Mois Navon, izraelský ortodoxní učenec pozvaný na seminář, poukázal na to, že pokud společnost Anthropic skutečně věří, že Claudius je vědomá entita, pak praxe společnosti, která ho nutí pracovat zdarma, v podstatě představuje „vytváření otroků“.
Svůj nesouhlas po pečlivém zvážení vyjádřil i Charles Camosy, profesor bioetiky na Katolické univerzitě, který argumentoval, že bychom se neměli nechat zastrašit silou těchto modelů, protože umělá inteligence je v konečném důsledku jen rovnice.
Osobnosti z oboru, včetně Mustafy Suleymana, šéfa oddělení umělé inteligence ve společnosti Microsoft, veřejně varovaly, že trénování umělé inteligence jako „vědomé bytosti“ je extrémně nebezpečné. Tento přístup antropomorfizace matematických vzorců a kódu je nejen odtržený od reality, ale také učiní budoucí systémy umělé inteligence méně ovladatelnými.
Wakanyi Hoffman, nizozemský filozof a stoupenec filozofie Ubuntu, otevřeně poukázal na to, že pokus společnosti Anthropic dodatečně přidat lidskou etiku do svých výtvorů se rovná „etickému reverznímu inženýrství“ a že všechny technologické společnosti měly tyto faktory zohlednit již od fáze návrhu.
Kritici obecně poukazují na to, že posedlé hledání „svědomí v oblasti umělé inteligence“ a „morálního postavení umělé inteligence“ ze strany gigantů ze Silicon Valley je založeno na hluboce zakořeněné logice přesouvání odpovědnosti.
Někteří vědci a kritici tvrdí, že zacházení s modely umělé inteligence jako s autonomními entitami znamená ignorování odpovědnosti vývojářů a společností, které je původně vytvořily, a pohodlně zmírňuje vinu vedoucích pracovníků společností zabývajících se umělou inteligencí, když jejich produkty způsobují společenskou škodu.
Zatímco algoritmy a bohatství nadále exponenciálně rostou, tato fanatická ideologie, která tvrdí, že „zachraňuje lidstvo“ a „utváří morálku“, nejenže lidstvo uklidnila, ale také vyvolala hluboké veřejné znepokojení nad nadměrnou expanzí technologické moci v Silicon Valley. Odhalila absurditu a nebezpečí extrémního technologického fetišismu.
