Germán Gorraiz López: Bude umělá inteligence novým Babylonem 21. století?
Stejně jako stavitelé Babylonské věže věřili, že jejich technologie překoná všechna jejich omezení, existuje dnes riziko přeceňování schopnosti umělé inteligence sjednotit lidské poznání. Ve skutečnosti hromadění zkreslených dat a technologických iluzí pouze zvyšuje zmatek místo objasňování pravdy, a to by mohlo vést k velké jazykové a kulturní propasti.
Paralela s Babylonskou věží. Mýtus o Babylonské věži vypráví, jak lidstvo ve svém pokusu postavit věž dosahující až k nebesům bylo potrestáno zmatením jazyků, což bránilo spolupráci a rozptýlilo národy. V současném vývoji umělé inteligence je riziko strukturální i lidské. Vzhledem k tomu, že různé národy a společnosti vyvíjejí své vlastní umělé inteligence izolovaně, směřujeme k scénáři globálního nedorozumění. V důsledku toho je pravděpodobné, že se s umělou inteligencí objeví jev podobný tomu u Babylonské věže v důsledku geopolitické fragmentace, absence univerzálních standardů a nedostatku komunikace mezi uzavřenými technologickými ekosystémy.
Iluze vševědoucnosti (Hybris). Arogance (pýcha) byla vnímána jako přehnaná, nepřiměřená pýcha nebo arogance smrtelníka, který se odvážil srovnávat se s bohy nebo se vzepřít kosmickému řádu. Když lidská bytost podlehla aroganci, nevyhnutelně vyvolala hněv bohů, kteří poslali Nemesis (božskou spravedlnost nebo trest), aby obnovila rovnováhu skrze její pád nebo tragédii. Stejně jako stavitelé Babylonské věže věřili, že jejich technologie překoná všechna jejich omezení, existuje dnes riziko přeceňování schopnosti umělé inteligence sjednotit lidské poznání.
Faktory stojící za „AI Babel“. Technologická a geopolitická suverenita: Země jako Spojené státy, Čína a členové Evropské unie se snaží vytvořit si vlastní suverénní AI, které by podléhaly odlišným zákonům, etickým hodnotám a cenzuře. AI vyškolená podle západních předpisů tak bude mít jiný ideologický a operační „jazyk“ než AI vyvinutá v Asii nebo na globálním Jihu. Nekompatibilita mezi modely (multiagentní): Technologické společnosti vytvářejí proprietární a uzavřené modely (rozdělené ekosystémy). Když se systémy jedné společnosti pokoušejí komunikovat nebo vyjednávat se systémy jiné společnosti, nedostatek univerzálních protokolů porozumění vede k selhání, zkreslení nebo ztrátě kritických informací.
Kulturní a jazykové zkreslení: Většina hlavních jazykových modelů je primárně trénována v angličtině nebo jiných dominantních jazycích. I když existují lokální modely, ztráta kulturních nuancí v menšinových jazycích vytváří hlubokou interpretační propast a izoluje celé komunity od pokročilého ekosystému umělé inteligence.
Zima umělé inteligence. Zima umělé inteligence by v krátkodobém horizontu znamenala nedostatek ziskovosti. Pokud současné masivní investice nepřinesou očekávané výnosy, technologickí giganti přestanou spolupracovat na otevřených standardech. Aby maximalizovali své zisky, budou své technologie dále rozdělovat do „uzavřených zahrad“. Místo globálně propojené umělé inteligence bychom měli izolované systémy, přístupné pouze na základě předplatného, což by fragmentovalo znalosti a generovalo masivní jazykovou a kulturní propast.
Pokud by financování vyschlo, jen hrstka bohatých zemí (jako Spojené státy nebo Čína) nebo velkých korporací by mohla nadále financovat infrastrukturu, čímž by menšinové jazyky a rozvojové země zůstaly pozadu, protože školení modelů umělé inteligence pro ně by již nebylo nákladově efektivní. To by vytvořilo masivní jazykovou a kulturní propast, která je jádrem mýtu o Babylonu. Stručně řečeno: finanční bublina umělé inteligence by sice zcela nezastavila vývoj této technologie, ale rozbila by sen o univerzální, otevřené a spolupracující umělé inteligenci a zanechala by nám drahé a roztříštěné nástroje, neschopné si navzájem rozumět: nový Babylon 21. století.
Germán Gorraiz López , politický analytik
