Připravuje nás AI Fear Porn na velkou psychickou operaci?
Atomové bomby, 11. září a největší finanční krize moderní doby… média přirovnávají umělou inteligenci ke všem třem!
A tak se ocitáme zpět ve světě děsivé umělé inteligence.
Vím, že jsem říkal, že o tom už nebudu psát – a vím, že musím pokračovat ve své sérii o „vodním bankrotu“ – ale oni prostě nepřestávají, takže ani já nemůžu.
Zrovna když jsem si myslel, že jsem venku, zatáhli mě zpátky dovnitř.
V mém posledním příspěvku na toto téma jsem popsal nekontrolovatelnou umělou inteligenci takto…
„Zbloudilé umělé inteligence“ se staly „teorií úniku informací z laboratoří“ technologického průmyslu – sci-fi hororovou premisou, která se vzpírá veškerému rozumu, spoléhá na vágní pojmy „zveřejnění“ a „odpovědnosti“ a zároveň propaguje paniku jako reakci a sociální kontrolu jako řešení.
Netušil jsem, že zrovna v okamžiku, kdy jsem psal tato slova, se „Wall Street Journal“ chystá otisknout článek s titulkem:
Další „laboratorní nehoda“ by se mohla týkat umělé inteligence – nedávné bezpečnostní narušení v sandboxových prostředích ukazují, že jsou zapotřebí vládní ochranná opatření.
To mi přijde dost zvláštní.
V dalších článcích o „děsivé umělé inteligenci“ z tohoto týdne byl deník Washington Post zcela zmatený, když zjistil, že interakce ChatGPT jsou používány v soudních řízeních.
Ano, firmy zabývající se umělou inteligencí zřejmě dělají to, co VŠECHNY velké technologické firmy dělají už DESÍTKY LET: špehují naše data a interakce. Ale najednou je to novinka.
Nová studie z Yaleovy univerzity zjistila, že – panebože – chatboti s umělou inteligencí mohou manipulovat s uživateli jako formu reklamy!
…opět, stejně jako to všechny velké technologické společnosti neustále dělají a dělají už léta.
Vedoucí zaměstnanec společnosti OpenAI listu Guardian řekl, že bychom se všichni měli připravit na „probíhající“ kybernetické útoky poháněné umělou inteligencí, pokud „nezavedeme nové bezpečnostní standardy“.
A deník Times varuje, že umělou inteligenci by mohli využít „nezkušení“ teroristé k výrobě bomb nebo biologických zbraní.
Ale VELKÁ zpráva je, že Big Billy Billions se podělil o své VELKÉ myšlenky.
Ano, pan Gates sám – údajně – napsal dlouhou esej o budoucnosti umělé inteligence a o tom, jak děsivá by mohla být. Začíná…
Začala turbulentní éra umělé inteligence. Rozhodnutí, která nyní děláme, jsou klíčová.
V tomto textu je mnoho k objevení (rozhodně stojí za přečtení) – od jeho požadavku na pracovní místa „rezervovaná pro lidi“ až po jeho myšlenku zdanění používání umělé inteligence a robotů, ale především jeho úvahy o potřebě regulace .
Nejlépe globální regulace:
I země, která si dá do pořádku své vlastní záležitosti, bude stále vystavena přeshraničním rizikům. Z tohoto důvodu musí být paralelně zřízena mezinárodní organizace.
To je „ to poselství “. Většinu zbývajících 10 000 slov můžete klidně ignorovat.
Toto odráží názor více než 1300 „zasvěcenců“ v oblasti umělé inteligence, kteří všichni podepsali otevřený dopis, v němž vyzývají vlády ke spolupráci na regulaci umělé inteligence a k donucení odvětví ke zpomalení jeho pokroku – s odkazem na riziko, že „rozvoj schopností se rapidně zrychluje a překračuje naši schopnost porozumět nebo ovládat výsledné systémy“.
To jasně souvisí s příběhem o „agentech umělé inteligence, kteří se stali darebáky“.
Zajímavé – a možná znepokojivé – Bill Gates ve své eseji přirovnává umělou inteligenci k jaderným zbraním:
Existuje systém inspekcí jaderných zbraní, předpisy pro mezinárodní leteckou dopravu a dohody na ochranu ozonové vrstvy. Nová globální organizace pro umělou inteligenci bude potřebovat prvky ze všech tří oblastí a dalších.
Možná ještě znepokojivější je, že Billy zdaleka není jediný, kdo toto srovnání provedl jen v posledních několika dnech.
Stává se to stále častějším refrénem. Překvapivě častým. Následující článek celou záležitost ještě více komplikuje a naznačuje, že umělá inteligence by mohla umožnit náhodný odpálení jaderné zbraně.
Ale nebojte se, „The Atlantic“ má řešení:
Překlad „X“ : Systémům umělé inteligence hrozí, že se stanou nebezpečně silnými – a může existovat pouze jeden způsob, jak kontrolovat vývoj této technologie, tvrdí Rogé Karma:
Jaký je „jediný způsob“, jak tuto technologii ovládat? Podnadpis to jasně uvádí:
Lidstvo potřebuje mezinárodní smlouvu o nešíření umělé inteligence.
„Smlouva o nešíření jaderných zbraní“… stejně jako u jaderných zbraní .
V článku v Guardianu Timothy Garton Ash – jeden z nejnerozumnějších sloupkařů Guardianu, na které jsem kdy reagoval, a to už o něčem vypovídá – uvádí přesně stejné srovnání. Ptá se:
Směřujeme k „Hirošimě s umělou inteligencí“?
…a zdá se být si celkem jistý, že odpověď zní „ano“.
Co přesně JE „AI-Hirošima“? Nejsem si jistý a on to neříká.
Ale – a pokud jste to už slyšeli, přerušte mě – on ví, jak se tomu nejlépe vyhnout:
Jednat společně, abychom ovládli nadlidskou sílu, kterou vytváříme.
Podobně panický komentář v „New York Times“ nese následující titulek:
Známe rizika umělé inteligence. Musíme jednat.
[ POZNÁMKA: Toto je původní titulek; od té doby byl změněn na „Varovná světla opět blikají “. Nevím proč – možná byl původní titulek příliš hloupý i pro ni.]
Článek, jehož autorkou je Jen Easterlyová, bývalá ředitelka americké Agentury pro kybernetickou bezpečnost a bezpečnost infrastruktury (CISA), zdůrazňuje, že v souvislosti s umělou inteligencí blikají „varovné signály“ a že musíme jednat hned, než se stane něco špatného.
Nezachází do přílišných detailů o tom, co by tato hrozná věc mohla být, ale evidentně to bude něco OBROVSKÉHO, protože to přirovnává k 11. září a finanční krizi z roku 2008.
I když přesně nevíme, čeho bychom se měli bát, má docela jasno v tom, co bychom měli dělat:
Naléhavě potřebujeme systém včasného varování s využitím umělé inteligence, který shromažďuje slabé signály, představuje si jejich celkový význam a vynucuje rozhodnutí ještě předtím, než je k dispozici kompletní obraz.
Účelem tohoto systému by bylo…
transformovat partnerství veřejného a soukromého sektoru […] do skutečné, funkční spolupráce: výměny informací, která byla včasná, relevantní a především proveditelná.
Nezní to úžasně?
Pro ty, kteří ztratili přehled: Zatím jsme umělou inteligenci srovnávali s 11. zářím, finanční krizí v roce 2008 A Hirošimou. Aniž bychom – OPRAVDU NIKDY – konkrétně vysvětlili, proč by měla být byť jen vzdáleně srovnatelná s některou z těchto událostí.
To je velmi zvláštní. Nejsem si jistý, jestli si pamatuji takovou úroveň strachu, kdy by bylo tak málo specifikováno, čeho bychom se vlastně měli bát.
Ale vede mě to k podezření, že by v blízké budoucnosti mohl dojít k „incidentu“ souvisejícímu s umělou inteligencí – jen možná ještě nebylo rozhodnuto, jakou formu by měl mít.
Easterlyho přirovnání k 11. září může být jednoduše hysterickou přehnanou reakcí, včasnou narážkou na blížící se 25. výročí nebo téměř instinktivní posilou extrémně slabého narativu o „selhání představivosti“. Nebo by to mohlo být něco úplně jiného. Možná náznak potenciálního rozsahu.
Měli bychom očekávat nějakou psychooperaci pod falešnou vlajkou související s umělou inteligencí?
Takový, který by se mohl rovnat rozsahu útoků z 11. září a za který je obviňován „nekontrolovatelný“ agent umělé inteligence?
Něco takového nepředpovídám, ale rozhodně to nevylučuji.
