Apokalypsa AI: Umělá inteligence by mohla vyhladit lidstvo do roku 2050
Poradenská firma BCA Research přichází s chmurným proroctvím. Studie ukázala, že existuje 50/50 šance, že umělá inteligence vyhladí lidstvo do roku 2050. Měli bychom si dělat starosti?
Varovné hlasy o potenciálním nebezpečí všemocné umělé inteligence (AI) se objevují již nějakou dobu. Několik vědců již podepsalo výzvu vyzývající vývojáře takových systémů, aby nesledovali vývoj prostřednictvím GPT4. Goldman Sachs již dříve varoval , že umělá inteligence může zničit miliony pracovních míst. Americká poradenská firma BCA Research nyní přichází s analýzou, která uvádí dosavadní vývoj a budoucí rizika umělé inteligence.
Výsledky vyšetřování ukázaly, že systémy umělé inteligence by mohly do roku 2050 vyhladit celé lidstvo. V souladu s tím existuje riziko takové události 50:50. Podle zprávy : „Umělá inteligence by mohla být odpovědí na Fermiho paradox s potenciálem zničit inteligentní život ve vesmíru dříve, než bude moci kontaktovat ostatní. Naznačuje to dosud nerecenzovaná studie zveřejněná na předtiskovém serveru arXiv.“Fermiho paradox, známý jako „Kde všichni jsou? je omezená, mátla vědce po celá desetiletí. Odkazuje na znepokojivou myšlenku, že pokud je ve vesmíru pravděpodobný mimozemský život, tak proč se s ním lidé ještě nesetkali?
Podle toho by za tím mohla stát buď přírodní událost, nebo vývoj umělé inteligence, která nakonec vyhladí celé civilizace. Protože co když AI na základě získaných dat (např. v souvislosti se změnou klimatu, o níž se říká, že je řízena lidmi) dospěje k závěru, že Zemi lze zachránit pouze tehdy, když už nezůstanou žádní lidé? Vzhledem k tomu, že například ChatGPT a další systémy umělé inteligence jsou evidentně zásobovány daty velmi jednostranným způsobem, nezdá se tato myšlenka ani tak přitažená za vlasy.
BCA Research zkoumala historii lidského vývoje a vývoj umělé inteligence na základě mnoha faktorů ( recenzi v angličtině s mnoha grafikami najdete zde ). Jak vědci píší: „Pokud se modely jako ChatGPT někdy dostanou do bodu, kdy se budou moci trénovat – podobně jako se Deepmind’s AlphaZero dokáže trénovat, aby zvládl šachy, aniž by se kdy učili pravidlům hry – pak se budou moci zdokonalovat astronomicky rychlé tempo. Do jisté míry se to již děje.“ A tento vývoj nemusí nutně prospívat našim nejlepším.
Máme se tedy připravit na nejhorší? Vzhledem ke globální rase umělé inteligence je velmi nepravděpodobné, že by se vědci v této oblasti omezili – a vlády se pravděpodobně v tomto boji o technologickou nadvládu omezí sami – pokud to vůbec dokážou …
