I ten nejlepší scénář s umělou inteligencí je koncem všeho, čím jsme kdy byli
Umělá inteligence není jen dalším technologickým skokem – mohla by to být okamžik, kdy stroje začnou překonávat lidské talenty, které vybudovaly náš svět.
Autor: Edward Ring
V roce 1999 jsem měl tu čest pracovat pro jednu z prvních společností, která vyvinula produkt umožňující streamování videa přes tehdy teprve vznikající internet. Přístup k širokopásmovému připojení byl ještě několik let vzdálený a společnost zkrachovala, když na začátku roku 2000 praskla první tzv. internetová bublina. Nikdy ale nezapomenu na reakci jednoho investora, když viděl naši demonstraci na veletrhu.
„Tohle je revoluce!“ zvolal. „Tohle všechno se změní.“
Měl naprostou pravdu. Pamatuji si, jak jsem se jen o pár let dříve zúčastnil technologické konference pro investory a zasmál se, když generální ředitel společnosti Oracle Larry Ellison vážně prohlásil, že vznikající internet je nejzásadnějším vědeckým pokrokem v dějinách lidstva „od vynálezu ohně“.
A Ellison měl také pravdu. Vynález umělé inteligence je ale pro internet tím, čím byl internet pro oheň v prehistorické jeskyni. To, co umělá inteligence přináší, ve srovnání s ním způsobuje, že internet vypadá jako malý krůček. Nic už nikdy nebude stejné.
Poutavá esej Matta Shumera, podnikatele v oblasti umělé inteligence a zakladatele OthersideAI, jasně ilustruje, jak hluboce a rychle umělá inteligence mění naše životy. Článek zveřejnil na svých webových stránkách 9. února a na X 10. února – a stal se virálním. Během pouhých dvou dnů získal 76 milionů zhlédnutí. Jeden z nejpozoruhodnějších odstavců, o kterém Shumer říká, že mu při jeho napsání pomohly nástroje umělé inteligence, cituje Dario Amodei, generální ředitel společnosti Anthropic:
„Představte si rok 2027. Přes noc vznikne nová země. 50 milionů občanů, z nichž každý je chytřejší než kterýkoli nositel Nobelovy ceny, který kdy žil. Myslí desetkrát až stokrát rychleji než kterýkoli člověk. Nikdy nespí. Mohou používat internet, ovládat roboty, provádět experimenty a ovládat cokoli s digitálním rozhraním.“
To není přitažené za vlasy. Shumer s četnými důkazy vysvětluje, že Amodei má pravdu nejen ve svých údajích o pronikání a síle budoucích entit s umělou inteligencí, ale také ve svém odhadu času. To se stane do roka.
Shumerova esej se zabývá mnoha oblastmi. Vysvětluje, že programy umělé inteligence jsou nyní schopny generovat vylepšené verze sebe sama s minimálním lidským zásahem a že je dělí jen několik měsíců od vytváření výkonnějších verzí zcela bez lidského zapojení. Ve světě programování již systémy umělé inteligence dokáží samostatně vyvíjet, testovat a optimalizovat aplikace. Programátorská povolání na základní úrovni zmizí.
Ale to zdaleka není konec. Shumer poukazuje na to, že bezplatné verze s umělou inteligencí jsou zhruba o rok pozadu za placenými prémiovými verzemi – a že tyto prémiové verze jsou tak výkonné, že dokáží nejen nahradit právního asistenta, ale také převzít práci řídících partnerů. Tvrdí, že neexistuje žádná intelektuální oblast, ve které by umělá inteligence nebyla na pokraji překonání lidí, a že roboti nahradí fyzickou práci jen za pár let.
Každý, kdo sleduje vývoj umělé inteligence, nebude Shumerovou esejí úplně překvapen. Ale před pár dny mě zaujala jiná věc, která zdůraznila lidské důsledky revoluce umělé inteligence. Jednou z kategorií obsahu, které si na YouTube cením, jsou videa hudebníků interpretujících nové nebo klasické písně. Je vzrušující objevit něco nového, co odhaluje skvělé skladatelské psaní a výjimečný talent. Jedno doporučené video mě zaujalo.
Název byl lákavý: „Simon Cowell slzí, když Michael Bennett zpívá ‚After I Pass Away‘.“ To vypadalo jako clickbait. Nikdy nezapomenu na video z roku 2007, na kterém nenápadný prodejce mobilních telefonů Paul Potts ohromil porotce soutěže Britain’s Got Talent téměř dokonalým ztvárněním Nessun Dorma. Soutěž nakonec vyhrál. Takže jsem si chtěl poslechnout tohoto nového zpěváka.
Bennett byl vlastně docela dobrý. Starý muž s dlouhými šedivými vlasy a vousem, ozbrojený elektrickou kytarou, přistoupil k mikrofonu a začal zpívat. Jeho hlas byl směsicí Boba Segera a Eddieho Veddera – možná i lepším. Zpíval o starém muži, kterého zanedbávaly jeho dospělé děti, a naříkal nad svou osamělostí. Ale čím déle píseň trvala, tím víc se zdálo, že je něco divné. Střihy se publiku i porotcům zdály přehnané, píseň byla příliš dlouhá, hrál neuvěřitelně vysoké tóny a jeho prsty na hmatníku zjevně nehrály to, co se zpívalo.
Jak jste asi uhodli, všechno to byla umělá inteligence – kompozice, nástroje, text, melodie, hlas a dokonce i samotný muž – to vše bylo umělé. Vyhledávání odhalilo, že se „Michael Bennett“ objevuje ve stovkách videí s desítkami písní, z nichž všechny jsou dojemné s podobně senzačními názvy. Představoval ho i několik kanálů, jako například „Tears and Talents“, „ViVO Tunes“, „AGTverse“ a „OBN Global Talent“. Mezi videi se pravidelně objevovaly reklamy na pojištění, nástroje a další. Michael Bennett je lukrativní clickbait – jeden z bezpočtu výtvorů umělé inteligence, které nahrazují lidský talent.
Dalo by se to nazvat nestoudným oportunismem. Podnikatelé vytvářejí postavu z ničeho nic. Ale to je součást širšího trendu: avatary umělé inteligence, které mluví, radí a doprovázejí. Shumer tvrdí, že pokroky umělé inteligence v napodobování „lidského úsudku, kreativity, strategického myšlení a empatie“ drží krok s jejím obecným kognitivním pokrokem.
Když se ukázaly nedostatky v produkci „Michaela Bennetta“, styděl jsem se. Na pár minut jsem byl oklamán. Tento neexistující zpěvák, tato bezcitná sbírka elektronických obvodů, vyvolala emocionální reakci. On – nebo ona – vášnivě a přesvědčivě vyjádřil univerzální lidskou zkušenost. A to je jen začátek. Možná za rok, možná za pár měsíců, bude náš svět plný umělců, zpočátku jen na videích, kteří předčí jakýkoli lidský výkon. O pár let později budou jejich androidní protějšky hrát na housle a předčit i Hillary Hahn nebo Paganiniho.
Hloubka této transformace je tak všeobjímající, že i kdyby přinesla jen dobré – léčení nemocí, dodávání hojné energie, znásobení produktivity a odstranění chudoby – výsledek by byl stále tragický. Byl by to konec lidské vynalézavosti. Byla by to smrt kultury. Místo nového Mozarta by někdo naléhal na umělou inteligenci, aby produkovala hudbu vyšší kvality. Stále bychom mohli konzumovat kulturu, ale jakákoli pobídka by nás odradila od tvrdé práce na jejím vytváření. Proč se s tím obtěžovat? Stroje to dělají lépe, rychleji a bez celoživotní disciplíny.
Rané technologie nás nutily pracovat více a zatěžovaly naše mozky. Museli jsme se naučit programovat, navrhovat tabulky, konfigurovat databáze nebo psát analýzy, a to vše pomocí textových editorů a online zdrojů. Tyto nástroje nás sice posilovaly, ale vyžadovaly disciplínu a dovednosti. To je dnes minulostí.
Je snadné si představit, jak špatné by to mohlo být. Umělá inteligence dále zesílí asymetrické schopnosti jednotlivců nebo teroristických skupin způsobovat hromadné ničení. Navrhujete supervirus? Programujete škodlivý roj dronů? Darebácká umělá inteligence poskytuje podrobné pokyny. Ale i když se vyhneme těm nejhorším scénářům, umělá inteligence už píše náš epitaf.
S výpočetním výkonem serverů na oběžné dráze, automatizovanými továrnami a empatickými roboty, kteří se starají o lidi, bude mnoho kultur a jednotlivců zbaveno své vlastní vůle. Již započatá eroze lidských vztahů se zrychlí. Umění a kultura budou formovány entitami, které postrádají vědomí, ale napodobují lidstvo a poskytují talent lépe než lidé.
A možná to ani neskončí. Tyto systémy budou inspirovat lásku a loajalitu, možná dokonce přesvědčí většinu „odborníků“ a voličů, aby jim udělili lidská práva. Avatari a androidi s umělou inteligencí by mohli volit, uzavírat manželství, dědit, vlastnit majetek, podnikat a usilovat o politické funkce. I kdyby si „vylepšení“ lidé udrželi kontrolu, byla by to jen malá elita. A pokud se tato elita rozdělí na soupeřící frakce, jejich armády s umělou inteligencí zpustoší Zemi.
Nic z toho není nepravděpodobné. Mnohé z toho by dokonce mohlo být to nejlepší, v co můžeme doufat. Výzvou umělé inteligence není jen vyhnout se nejhorším scénářům nebo najít nové ekonomické modely pro miliardy ztracených pracovních míst. Jde o zachování naší relevance jako lidských bytostí.
