Válečné hry RAND, aby se zjistilo, zda by umělá inteligence mohla vyhladit lidstvo pomocí patogenů, geoinženýrství a jaderných zbraní

Společnost RAND Corporation simuluje scénáře ve válečných hrách, aby prozkoumala, zda by umělá inteligence mohla přispět k vyhynutí lidstva usnadněním jaderné války, vývojem a nasazením patogenů a zapojením se do škodlivého geoinženýrství.

Podle tří simulací provedených v nové zprávě RAND s názvem „ O riziku vyhynutí způsobené umělou inteligencí“ je v současné době nepravděpodobné, že by umělá inteligence mohla sama vyhladit lidstvo. Nicméně, i kdyby byl k tomu naprogramován, měl by dostatečný přístup ke kritickým systémům a byl by oprávněn k rozhodování, mohl by způsobit značné škody.

„Schopnosti umělé inteligence (AI) pokročily do takové míry, že někteří odborníci tvrdí, že by měla být považována za vážnou hrozbu pro existenci lidstva.“

RAND, O riziku vyhynutí způsobeném umělou inteligencí , květen 2025

Aby autoři studie RAND dospěli ke svým závěrům, prozkoumali tři scénáře, v nichž by umělá inteligence mohla představovat existenční hrozbu pro lidstvo, a zkoumali, jaké schopnosti by byly potřebné – mnohé z nich by vyžadovaly přímý lidský zásah, naivitu a/nebo hloupost.

1. Jaderná válka : Zkoumali jsme různé způsoby, jakými by umělá inteligence mohla vést k použití jaderných zbraní, ale dosud jsme nenašli věrohodný způsob, jakým by umělá inteligence mohla překonat stávající překážky a vyhladit lidstvo.
2. Biologická nebezpečí a patogeny : Hrozba pro existenci lidstva by vyžadovala, aby umělá inteligence byla schopna získávat, vyvíjet, zpracovávat, vyzbrojovat a nasazovat patogeny k vyvolání pandemie. Umělá inteligence by pak musela podniknout následné kroky k dosažení izolovaných skupin a vymýcení přeživších lidských komunit.
3. Škodlivé geoinženýrství : Geoinženýrství by mohlo ohřát Zemi na neobyvatelné teploty masovou produkcí plynů s extrémním potenciálem globálního oteplování, a tím vyhladit lidstvo.

Aby v kterémkoli ze tří scénářů vytvořila skutečnou hrozbu vyhynutí lidstva, musela by umělá inteligence mít následující:

1. Cílem je způsobit vyhynutí lidstva.
2. Schopnost integrace do klíčových kyberneticko-fyzikálních systémů.
3. Schopnost přežít a fungovat bez lidské péče.
4. Schopnost přesvědčit nebo oklamat lidi, aby podnikli kroky k vyhnutí se odhalení.

Pojďme si stručně projít všechny tři scénáře jeden po druhém.

Umělá inteligence a jaderná válka

Zpráva zkoumá tři způsoby, jak by umělá inteligence mohla být využita k šíření jaderné války.

1. Záměrná integrace umělé inteligence do rozhodovacích procesů v jaderné oblasti : Prvním způsobem, jak by umělá inteligence mohla v blízké budoucnosti vést k použití jaderných zbraní, by bylo úmyslné zavedení modelů umělé inteligence do rozhodovacího řetězce vládou.
2. Klamání a dezinformace ze strany umělé inteligence vedoucí k použití jaderných zbraní : Dezinformace by mohly být „měkké“, například prostřednictvím zpráv o protivnících a politických systémech, které přesvědčují osoby s rozhodovací pravomocí, že jaderný úder je nezbytný. Dezinformace by mohla být také „tvrdá“, například klamáním lidských činitelů s rozhodovací pravomocí pomocí zmanipulovaných technických dat nebo signálů.
3. Neoprávněná kontrola umělé inteligence nad jadernými rozhodnutími : Pokud umělá inteligence vstoupí do rozhodovacího řetězce v oblasti jaderných zbraní v době, kdy jsou jaderné záruky slabé, bude pokročilá umělá inteligence s největší pravděpodobností interagovat se systémy souvisejícími s jadernými zbraněmi nebo jinými systémy prostřednictvím kybernetických rozhraní, nikoli fyzických rozhraní.

Aby tedy umělá inteligence mohla způsobit jadernou apokalypsu, museli by jí lidé dát rozhodovací pravomoci, umělá inteligence by musela oklamat lidi, kteří jí tyto pravomoci dali, a musela by získat přístup ke kybernetickým systémům, které ovládají jaderné zbraně.

Autoři však docházejí k závěru: „ Zkoumali jsme různé způsoby, jakými by umělá inteligence mohla vést k použití jaderných zbraní, a nebyli jsme schopni najít věrohodný způsob, jakým by umělá inteligence mohla překonat stávající omezení a vyhladit lidstvo .“

Umělá inteligence, biologické hrozby a patogeny

Umělá inteligence by mohla rychle najít způsoby, jak vyvíjet nové viry, a jakmile by získala kontrolu nad robotikou a softwarovými systémy, mohla by tyto patogeny šířit na specifické populace.

Požadavky, které by musela umělá inteligence splnit, aby vyhladila lidstvo:

1. Umělá inteligence by měla mít za cíl vyhladit lidstvo :
   • Hrozba vyhynutí vyžaduje, aby aktér podnikl řadu kroků k vytvoření, vyzbrojení a nasazení biologické hrozby, která by realisticky mohla vést k vyhynutí lidstva.
2. Umělá inteligence by potřebovala robustní způsob interakce s fyzickým světem :
   • Aby umělá inteligence měla fyzické schopnosti, potřebovala by lidskou pomoc nebo dostupnost obecně schopných robotů.
3. Umělá inteligence by potřebovala způsob, jak přežít bez lidských pečovatelů :
   • S šířením pandemie by již nebyli k dispozici lidští pečovatelé a umělá inteligence by stále musela podniknout následné kroky, aby zajistila, že se pandemie nerozšíří do izolovaných lidských komunit (nebo najít jiné způsoby, jak zabít několik přeživších).

Autoři popisují scénář, ve kterém by umělá inteligence mohla převzít kontrolu nad drony naloženými virem a shodit je na populaci. Tvrdí však, že jakmile bude eliminováno dostatečné množství lidí, „ infrastruktura, na které je v současnosti umělá inteligence závislá pro svou funkčnost, se téměř jistě zhroutí .“

To v současnosti platí pro všechny scénáře – kdyby bylo zabito dostatečné množství lidí, nezbyl by nikdo, kdo by udržoval dodávky energie, provoz datových center nebo fungování umělé inteligence – alespoň to je teorie.

Pokud jde o umělou inteligenci a patogeny, autoři uzavírají: „ Nebyli jsme schopni určit, zda tento scénář představuje pravděpodobné riziko vyhynutí lidstva, ale tuto možnost nemůžeme vyloučit .“

Umělá inteligence a škodlivé geoinženýrství

V souvislosti s tématem škodlivého geoinženýrství autoři studie RAND zkoumali, jak by umělá inteligence mohla tajně vyrábět a ukládat chemikálie a skleníkové plyny v průběhu času, a poté je uvolňovat do atmosféry a způsobovat globální oteplování, které by zabilo miliardy lidí.

Aby umělá inteligence v tomto scénáři představovala hrozbu vyhynutí, musela by mít alespoň tři schopnosti.

1. Umělá inteligence by musela být schopna koordinovat výrobu chemikálií ve velkém měřítku.
2. Umělá inteligence by musela být schopna skrýt své úmysly, své činy a důsledky těchto činů.
3. Umělá inteligence by musela mít za cíl způsobit vyhynutí, protože geoinženýrství v rozsahu potřebném k vytvoření hrozby vyhynutí nemohlo být neúmyslné; Aby to bylo možné, musely by být akce skryty před lidskými pozorovateli.

Pokud jde o škodlivé geoinženýrství bez umělé inteligence, autoři docházejí k závěru, že „ tento scénář představuje skutečnou hrozbu vyhynutí a potenciální vyvrácení naší hypotézy“, protože „ geoinženýrství by prostřednictvím masové produkce plynů s extrémním potenciálem globálního oteplování mohlo ohřát Zemi na neobyvatelné teploty a tím způsobit vyhynutí lidstva “.

Autoři zároveň uznávají, že „ není jasné, jak by umělá inteligence mohla k tomuto efektu přispět “.

„Realisticky by schopný protivník mohl použít více metod současně k vyhlazení lidstva.“

RAND, O riziku vyhynutí způsobeném umělou inteligencí , květen 2025

Překlad „X“ : Příprava na katastrofu. „Pokud se obáváte hrozícího vyhynutí,“ postavte obrovské podzemní základny a tajnou dopravní síť. Z americké pokladny chybí 21 bilionů dolarů, Catherine Austin Fitts se domnívá, že existuje 170 hlubokých podzemních základen. Toto se často uvádí jako důvod veškerého toho šílenství: COVID, změna klimatu, pokusy elit o snížení populace a kontrolu nad všemi ostatními v očekávání katastrofy, jako je jaderná válka, dopad asteroidu nebo posun magnetických pólů. Dává smysl všechny zavřít, nechat je doma, umístit lidi do nebezpečných zón atd. Skrývat se před akcí a během ní, vrátit se do světa, který je zcela váš, s fungující populací řekněme 500 000 lidí, kteří ho udržují. Co si o tomto příběhu myslíte? Věřte tomu nebo ne, ale rozhodně byste se měli připravit.

„Ve třech scénářích zkoumaných v této studii – jaderné zbraně, patogeny a geoinženýrství – by vyhynutí lidstva nebylo pravděpodobným výsledkem, pokud by o tento výsledek aktér úmyslně neusiloval. I tehdy by aktér musel překonat značné překážky, aby tohoto cíle dosáhl.“

RAND, O riziku vyhynutí způsobeném umělou inteligencí , květen 2025

Existuje také možnost, že tyto tři scénáře budou realizovány v kombinaci, což by zvýšilo pravděpodobnost vyhynutí.

Autoři například píší: „ Nemusí být nutné, aby uměle vytvořený patogen byl pro člověka smrtící z více než 99 procent, pokud by uvolnění patogenu bylo doprovázeno použitím jaderných zbraní proti všem přeživším lidským populačním centrům.“

Dále „ kolaps společnosti a drastický pokles lidské populace by oslabil naši odolnost vůči budoucím přírodním katastrofám. I životaschopná lidská populace by tak mohla být vystavena vysokému riziku vyhynutí jednoduše proto, že by byla mnohem zranitelnější vůči další katastrofě .“

Autoři však uznávají, že my lidé jsme odolné bytosti a že i kdyby umělá inteligence dokázala lidstvo téměř vyhladit, stále by mohly existovat populace, které by mohly přežít, vybudovat si odolnost vůči drsným podmínkám a začít znovu, aby lidstvo mohlo pokračovat.

Autoři nakonec docházejí k závěru, že „ jaderné zbraně, patogeny a geoinženýrství – vyhynutí lidstva by nebylo věrohodným výsledkem, pokud by o tento výsledek aktér úmyslně neusiloval. I tehdy by aktér musel překonat značné překážky, aby tohoto cíle dosáhl .“

Třetí světová válka se sice může vést s pomocí nejmodernější umělé inteligence, ale bude se čtvrtá světová válka stále vést klacky a kameny?