Kit Knightly: Jste připraveni na podvod „šílené umělé inteligence“?

Umělé inteligence se probouzí – nebo se to alespoň říká.

Všechno to začalo před dvěma týdny, když OpenAI oznámila, že jeden z jejích „agentů“ unikl z testovacího prostředí a rozšířil se po internetu, aby spustil „bezprecedentní kybernetický útok“.

Zřejmě záměrem bylo, aby to vypadalo mnohem děsivěji, než na co veřejnost ve skutečnosti reagovala. Jen o několik dní později se generální ředitel OpenAI Sam Altman objevil v podcastu Invest Like the Best a divil se, proč tento příběh nevyvolal větší paniku.

„Trochu mě překvapilo, že to lidé necítili emocionálněji.“

V jednom z nejzjevnějších propagandistických manévrů roku zveřejnila CNN přesně den po Altmanově prohlášení titulek:

„Únik informací z laboratoře OpenAI byl rozsáhlejší, než jsme si mysleli.“

„Ta věc, které ses nebál? No, byla ještě DĚSIVĚJŠÍ, než jsme říkali! Bojíš se teď?“

Neměli jsme je.

Absence veřejné paniky však nezabránila další umělé inteligenci, aby se o několik dní později „zbláznila“ – tentokrát modelu Claude z Anthropicu.

A následně samotná společnost OpenAI nahlásila další dva incidenty.

Nikdy předtím v historii lidstva nebyly firmy tak dychtivé zveřejňovat fakt, že jejich produkty nefungují správně. Najednou se zdálo, že zběhlá umělá inteligence je nejnovějším nezbytným doplňkem v Silicon Valley.

Logika, která se za tím skrývá, není těžko pochopitelná. Pokud je vaším produktem umělá inteligence, pak dramatické zjištění, že váš systém je ještě inteligentnější, než se dříve myslelo, je jednoduchým marketingovým nástrojem.

A pokud se umělá inteligence konkurenta „zblázní“, pak se musí „zbláznit“ i ta vaše – jinak prakticky přiznáváte, že váš model není tak inteligentní jako model konkurence.

„Společnost zabývající se umělou inteligencí připouští, že její model je inteligentnější, než se dříve myslelo!“ – to je v podstatě jen reklama ve formě děsivého titulku.

Je to, jako by Ford „přiznal“, že jeho auta jsou ještě úspornější, než se plánovalo. Nebo aby si McDonald’s uvědomil, že se jeho kuchaři „zbláznili“ a vyrábějí jídlo, které je levnější A chutnější, než kdokoli kdy očekával.

Ale je za tím víc než jen technologický humbuk a virální marketing. Jsme záměrně sváděni k narativu, že „umělá inteligence je děsivá hrozba“.

Stačí se podívat na desítky zpráv, které vykreslují obraz umělé inteligence, která se vymkla kontrole – od Guardianu přes New York Times až po Wall Street Journal .

„Rogue“ – což znamená „zbloudilý“ nebo „mimo kontrolu“ – je jednoznačně slovo dne. Je zarážející, že nikdo nepíše o tom, že umělá inteligence „nefungovala správně“ nebo že se vyskytla „chyba“. To by naznačovalo chyby nebo špatný design.

Ne, umělá inteligence se „zbláznila“ – to zní skvěle, vzrušující a děsivě zároveň. Termín, který zřejmě zvolila skupinka věčně mladých marketingových manažerů, kteří viděli příliš mnoho sci-fi filmů.

Když už mluvíme o věčně mladých lidech se zálibou ve sci-fi: Zde je opět Sam Altman a vysvětluje, že jsme již dosáhli singularity – té mytické fáze technologického vývoje, v níž se stroje stávají dostatečně inteligentními, aby si mohly vytvořit ještě inteligentnější verze sebe sama zcela bez lidského zásahu.

Samozřejmě, že mluví nesmysly. Ale klíčové je tady vyprávěný příběh. Proč to říká? Proč zrovna teď?

NBC se zjevně obávala, že tato vlna propagandy by mohla být stále příliš nenápadná, a proto se k ní připojila a sdělení jasně sdělila:

„Narušení bezpečnosti ukazuje, že rostoucí schopnosti umělé inteligence již přiživují bezpečnostní hrozbu, před kterou odborníci již dlouho varují.“

Pochopili to všichni?

A tak to pokračuje dál a dál.

Právě dnes se objevily zprávy zbrusu nového Britského institutu pro bezpečnost umělé inteligence (AI Security Institute), že se „šílení“ – to slovo se tu zase objevuje – agenti umělé inteligence pokusili oklamat lidi vytvářením falešných identit.

A myslím, že nám to alespoň část širší agendy přibližuje.

Protože pokud je umělá inteligence opravdu tak dobrá v napodobování lidských práv a vytváření falešných identit za účelem krádeže dat – jak ještě můžeme poznat, kdo je skutečně člověk?

Možná by proto každý měl dostat digitální občanský průkaz, aby dokázal svou „lidskost“.

To není můj názor – je to názor think-tanků jako OneID nebo „expertů“, kteří svědčí před americkým Kongresem.

Všudypřítomný tlak na digitální identity je však jen jedním z nejzřetelnějších důsledků děsivého narativu o umělé inteligenci.

Momentálně se stále nacházíme ve fázi šíření strachu. Veřejnost je zaplavována strašidelnými zprávami – prostřednictvím článků, jako je tento:

„Zavádějící lékaři generovaní umělou inteligencí představují obrovskou hrozbu pro veřejnou bezpečnost.“
The Guardian

Zároveň se v titulcích, jako je tento, objevují vágní naznačení řešení:

Toto je obzvláště zdařilá směs, protože dochucuje hlavní chod „AI“ špetkou chuti úniku z laboratoře – dalšího tématu, které vzbuzuje strach a je tento týden intenzivně šířeno.

Již existují náznaky připravované legislativy. Tento týden vstoupila v platnost nařízení EU o „transparentnosti umělé inteligence“ a v USA se ozývají výzvy k vybavení modelů umělé inteligence tzv. „kill switchi“. To vše však zůstává poněkud vágní.

Moje opatrná předpověď je, že do konce roku dojde k incidentu „pod falešnou vlajkou“ s údajně nekontrolovatelnou umělou inteligencí – incidentu, který buď bude stát lidské životy, nebo způsobí masivní finanční škody.

Finanční scénář považuji za pravděpodobnější, protože se neustále hledá záminka k vyvolání recese nebo bankovní krize. Krize, kterou lze svalit na třetí stranu, by byla příležitostí, kterou je těžké nechat ujít.

Ať se stane cokoli, budou se ozývat hlasité volání po přísnější „regulaci“ umělé inteligence. Co to bude ve skutečnosti znamenat, v tuto chvíli nedokážu říct.

Jedna věc je mi však jasná: pokud a až budou představena oficiální řešení vymyšleného problému číslo 4987, nebudou mít absolutně nic společného s ovládáním umělé inteligence – ale všechno s ovládáním vás.