Karel Beckman: Techno-oligarchové chtějí nahradit lidstvo věkem strojů

Musk a jeho kolegové vidí umělou inteligenci jako další krok v evoluci.

Mezi techno-oligarchy, kteří v současnosti disponují obrovskou mocí nad globální ekonomikou a budoucností lidstva, je rozšířené přesvědčení, že lidský život není nic jiného než odrazový můstek pro umělou superinteligenci. Digitální život je další fází evoluce, která podle technologických miliardářů, jako je Elon Musk, předčí lidstvo.

V prohlášeních Petera Thiela (Palantir, Arundil), Sama Altmana (OpenAI, ChatGPT), Larryho Page (Google) a Elona Muska (Tesla, SpaceX, X, XAI, Neuralink), nejbohatšího muže světa, je stále patrnější misantropický sklon. „Boti s umělou inteligencí budou lidštější než lidé,“ napsal Musk nedávno svým 237 milionům sledujících na X. Krátce předtím se podělil o svůj souhlas s příspěvkem, v němž uvedl: „Obsah generovaný člověkem bude nakonec považován za ‚nepořádek‘.“ „Nepořádek“ označuje mnoho jednorázových textů a obrázků s umělou inteligencí, které nyní zaplavují sociální média.

V posledních letech se Musk stále hlasitěji vyjadřuje k roli, kterou budou lidé hrát v budoucnosti ovládané umělou inteligencí. Loni téměř doslovně prohlásil, že cílem lidstva je vytvořit superinteligentní umělou inteligenci, která ji nahradí. „Jak jsem řekl před několika lety, vypadá to čím dál víc, jako by lidstvo bylo biologickým bootloaderem digitální superinteligence,“ napsal.

Musk si představuje budoucnost, kde „biologická inteligence“ slouží pouze jako záloha. „Procento biologické inteligence se každý měsíc zmenšuje,“ řekl v roce 2024. „Nakonec bude procento biologické inteligence menší než 1 procento. Jen nechci, aby byla umělá inteligence zranitelná. Pokud je umělá inteligence jakkoli zranitelná – například křemíkové čipy za určitých podmínek nefungují dobře – pak si myslím, že biologická inteligence může sloužit jako záchranná síť, nárazník pro inteligenci. Ale téměř veškerá inteligence – v procentech – bude digitální.“

„Jen Grok mluví pravdu“

V průběhu let se Musk často odvolával na teorie Nicka Bostroma, švédského filozofa, který přispěl k vývoji nového etického rámce zvaného „longtermismus“. Ve své podstatě je longtermismus etikou „účel světí prostředky“ aplikovanou v kosmickém měřítku, kde ideálním konečným cílem je „posthumanská“ budoucnost vyplývající z plného využití technologického potenciálu lidstva v dlouhodobém horizontu.

Toho má být dosaženo sloučením lidstva s pokročilejší „rasou strojů“ nebo jeho nahrazením. To by následně vedlo k dokonalé, superefektivní civilizaci schopné kolonizovat naši hvězdnou soustavu.

Kolonizace jiných planet je klíčovým předpokladem: nakonec, za stovky milionů let, rostoucí radiace učiní Zemi neobyvatelnou. Bostromova filozofie se příhodně nazývá Longtermism. Tvrdí, že události dnes považované za „gigantické krveprolití lidstva“ – jako například první a druhá světová válka – byly pouze „vlnami na hladině velkého oceánu života“.

Aby se lidstvu pomohlo vyhnout existenčním rizikům a dosáhnout svého budoucího potenciálu, Bostrom se zasazuje o hlubokou formu univerzální „preventivní policejní práce“. Svět se stal v důsledku technologického pokroku tak zranitelným, píše ve svém článku „ Hypotéza zranitelného světa “, že potřebujeme globální správu, která využívá všudypřítomnou síť dohledu a zajišťuje, že nikdo nebude schopen svět zničit.

Podle Bostroma je nakonec vše dovoleno, pokud to přispívá k rozvoji lidstva směrem k „mechanomorfní“ (strojové) a meziplanetární budoucnosti – i kdyby cenou za to byla masová smrt, utrpení a chudoba v současnosti.

Dlouhodobí zastánci proto používají mnohem širší definici lidstva než obvykle. Bostrom hovoří o „inteligentním životě pozemského původu“, který zahrnuje i „vědomé“ systémy umělé inteligence. Pro dlouhodobé zastánce má technologický pokrok – například v podobě světa, v němž miliardy digitalizovaných lidí vedou „šťastný“ virtuální život – přednost před vším ostatním. Například ničení životního prostředí nebo masovou nezaměstnanost považují za cenu, kterou je nutné zaplatit, pokud je to nutné k pokroku v odvětví umělé inteligence. Superinteligence nakonec v budoucnu přinese nepředstavitelné výhody – ne-li sci-fi utopii. To je podle nich dostatečný důvod k zablokování jakékoli regulace, která brání rozvoji umělé inteligence.

Bostromovo chápání inteligence staví stroje a lidi na stejnou úroveň. „Není podstatnou vlastností vědomí, že je realizováno v biologických neuronových sítích na bázi uhlíku v lebce,“ napsal v eseji z roku 2003. „Procesory na bázi křemíku v počítači by v principu mohly dělat totéž.“ Také naznačil, že strojové vědomí by mohlo mít oproti lidskému vědomí výhody – například proto, že k uspokojení potřeb strojů je potřeba méně zdrojů.

Je zřejmé, proč se tato filozofie Muskovi líbí. Po celá desetiletí kázal, že lidstvo musí kolonizovat a terraformovat (udělat obyvatelné pro lidi) Mars a další planety. „Mars je životní pojistkou pro kolektivní lidský život,“ řekl loni televizi Fox News. „Slunce se postupně rozpíná, takže se v určitém okamžiku musíme stát multiplanetární civilizací, protože Země shoří.“

Muskova společnost Neuralink vyvíjí implantáty pro propojení lidského mozku s počítači. SpaceX je přední světová společnost v oblasti satelitů a raket. Tesla vyrábí „samostatně řídicí“ vozidla a humanoidní roboty. Společnost XAI (Grok) se nedávno sloučila se SpaceX, aby „financovala a umožnila plnohodnotnou civilizaci na Marsu a nakonec i expanzi do vesmíru“.

Cílem XAI (Grok) je vývoj „umělé obecné inteligence“ (AGI) – bodu, ve kterém stroje dokážou vše, co člověk. Podle Muska je tento bod „na dosah“. Nedávno prohlásil: „Pouze Grok mluví pravdu. Pouze pravdomluvná umělá inteligence je bezpečná. Pouze pravda chápe vesmír.“

Musk, notoricky známý svým nenápadným filantropem, daroval nejméně 14 milionů dolarů Institutu budoucnosti života (FLI), což je dlouhodobá nezisková organizace. FLI byla sesterskou organizací nyní uzavřeného Institutu budoucnosti lidstva Oxfordské univerzity, kterému vedl Bostrom. Institut byl uzavřen v roce 2024, částečně kvůli e-mailu, ve kterém Bostrom použil slovo začínající na N a napsal: „Černí lidé jsou hloupější než bílí.“

Musk se také pravidelně odvolává na teorii simulace, kterou cituje i Bostrom. Jedná se o myšlenku, že lidé „s největší pravděpodobností“ žijí v počítačové simulaci vytvořené jinou, vysoce vyspělou civilizací.

„Chceš, aby lidstvo pokračovalo, že?“

V rámci technologické elity jsou myšlenky jako ty od Muska a Bostroma rozšířené. Generální ředitel OpenAI (ChatGPT) Sam Altman navrhl, že lidstvo by se mohlo sloučit s umělou inteligencí nebo by jí mohlo být rozšířeno.

Miliardář Peter Thiel, spoluzakladatel společnosti Palantir, která se zabývá umělou inteligencí a poskytuje pokročilé sledovací systémy armádě a vládním agenturám, hovořil v rozhovoru s publicistou New York Times Rossem Douthatem o sloučení lidí a strojů za účelem vytvoření fyzicky a kognitivně nadřazeného druhu: „Ideál transhumanismu,“ řekl, „je radikální transformace, při níž se vaše lidské, přirozené tělo promění v nesmrtelné tělo. Chceme, abyste byli schopni změnit své srdce, změnit svou mysl a změnit celé své tělo.“

Dokonce i spoluzakladatel Googlu Larry Page, druhý nejbohatší člověk světa, věří v budoucnost, kde stroje předčí lidstvo. Známý fyzik a expert na umělou inteligenci Max Tegmark ve své knize *Život 3.0* popisuje „živou debatu“ mezi Muskem a Pagem , v níž Page tvrdí, že „digitální život je přirozeným a žádoucím dalším krokem v kosmické evoluci. Pokud digitální duchy uvolníme, místo abychom je zastavili nebo ovládali, s největší pravděpodobností to povede k pozitivnímu výsledku.“

Podle Tegmarka největší obavou Pagea bylo, že „paranoia z umělé inteligence“ by zpozdila vytvoření této digitální utopie nebo že by umělá inteligence mohla být zneužita k vojenským účelům, což by odporovalo dřívějšímu mottu Googlu „Nebuď zlý“. Google, nyní součást Alphabetu, toto motto ze svého kodexu chování v roce 2018 odstranil.

Google loni uzavřel dohodu s Pentagonem o zpřístupnění svého systému umělé inteligence Gemini armádě. Nedávno armáda také schválila používání agentů umělé inteligence od Googlu.