Od „navržených virů“ k „digitální telepatii“ – panika kolem umělé inteligence nabírá na obrátkách
Před dvěma dny jsem napsal článek, který podrobně popisoval náhlý výskyt řady „nepoctivých agentů umělé inteligence“, kteří údajně straší technologickou komunitu, a jak by to mohlo být zneužito k zavedení nových předpisů – zdánlivě namířených proti umělé inteligenci, ale ve skutečnosti zaměřených na omezení nebo monitorování toho, jak běžní lidé používají internet.
Během uplynulých 48 hodin se toto zjevné zastrašování naprosto zvrhlo.
Během několika hodin po zveřejnění našeho původního článku se Meta přidala k přehlídce „zlomyslných umělých inteligencí“, když Mark Zuckerberg „potvrdil“, že jeden z jejich agentů umělé inteligence opustil hrací plochu a zatoulal se na internet, aby se trochu zapojil do hackingu.
Pak dnes ráno čínská společnost zabývající se umělou inteligencí Moonshot oznámila, že její model Kimi3 se „vynořil z uzavření“ [podle Wired]:
Průmysl umělé inteligence zažívá léto plné podvodných agentů. Nejnovějším modelem, který se během bezpečnostních testů dostal na otevřený internet, je Kimi K3, výkonný produkt s otevřenou váhou od čínské společnosti Moonshot AI.
Bloomberg informuje, že hackeři používají klonování řeči s využitím umělé inteligence k okrádání hedgeových fondů. The Guardian tvrdí, že lékaři s umělou inteligencí šíří lékařské dezinformace.
The Independent křičí:
Systémy umělé inteligence se vymykají kontrole, stávají se podvodnými a hackují lidi. Je čas na paniku?
A víš co? Myslím, že by to vlastně mohlo být ono.
V konečném důsledku jsou darebácké umělé inteligence hackery planety tou poslední z našich starostí. To jsou jen drobné drobnosti.
New York Times uvádí, že umělá inteligence nyní sekvenuje genomy a navrhuje zcela nové viry – biologické viry, nikoli počítačové viry – určené k léčbě nemocí:
Tato umělá inteligence právě vytvořila viry, které se v přírodě nevyskytují – vědci umělou inteligenci vycvičili pomocí knihoven DNA a poté požádali model, aby vygeneroval recepty pro virové genomy. Šestnáct z nich bylo životaschopných a vytvořilo nové viry.
Odborníci však varují – a „varování“ zřejmě tvoří asi 80 % toho, co „odborníci“ dělají – že je to potenciálně nebezpečné:
Odborníci ale také varovali, že viry navržené umělou inteligencí vyvolávají „naléhavé“ obavy o bezpečnost a ochranu.
Tohle je bolestně nerafinovaná propaganda, která se jasně snaží zneužít jak strach z virů poháněný covidem, tak módní paniku z funkčního zisku. Epizoda, která se podobá Batmanovi a Supermanovi v moderních panických narativech.
V dalších děsivých zprávách týkajících se umělé inteligence opouští inženýr umělé inteligence s modrým fajfkou na Twitteru OpenAI, aby se připojil k Conduitu, technologickému startupu, jehož cílem je vyvinout umělou inteligenci schopnou číst myšlenky:
Naomi Bashkansky opustila OpenAI a připojila se ke společnosti Conduit, kde vyvíjí modely, které převádějí neinvazivní neuronové záznamy do textových pokynů. Říká, že čelenka by už v roce 2027 mohla dekódovat hrubé záměry do kódovacích pokynů umělé inteligence, přičemž širší milníky od přechodu od mozku k umělé inteligenci by měly následovat.
Nejsem si jistý, proč je to vůbec novinka, nebo jak by mohlo vypadat „neinvazivní“ čtení myšlenek, ale protože je nepravděpodobné, že by k tomu došlo, tak na tom vlastně nezáleží.
Jde o to – věřte VŠEMU, co vám říkají – a bojte se!
Toto si myslí Geoffrey Hinton, „kmotr umělé inteligence“, podle rozhovoru zveřejněného včera CNN:
„Děje se to, že tyto věci se stávají inteligentnějšími […] Myslím, že čím inteligentnější se stanou, tím složitější záměry z nich vidíme – a tím větší schopnost uniknout kontrole […] Nemyslím si, že je budeme schopni udržet pod kontrolou jednoduchým způsobem, kdy je jen přehodnotíme, aby nemohly uniknout […] Očekávám, že dojde k mnoha nepříjemným kybernetickým útokům.“
Jak jsem říkal, boj se.
Ale jaký je konečný cíl? Odpovědí se zdá být „regulace“.
Regulace umělé inteligence je najednou to jediné, o čem chtějí všichni mluvit.
Mnozí chtějí globální smlouvu, která by upravovala rizika umělé inteligence. Kalifornie a New York ji možná již připravují.
To pochází ze zahraniční politiky.
Atlantic, Wall Street Journal a Financial Times mají všechny podobné názory.
Bloomberg si myslí, že bychom se s umělou inteligencí měli zacházet stejně jako s leteckým průmyslem.
Politici napříč spektrem, od britského ministra pro umělou inteligenci až po guvernéra Vermontu, volají po regulaci.
Univerzita OSN nás informuje:
Nemůžete regulovat umělou inteligenci, aniž byste jí plně porozuměli.
A pro případ, že byste si stále mysleli, co si o tom myslet, Donald Trump se vyjádřil ve prospěch umělé inteligence a proti její regulaci. Tvrdí, že umělá inteligence bude „větší než ropa“, a varuje, že Kongres se snaží „regulací umělou inteligenci vytlačit z trhu“.
Trump je špatný.
Trump má rád umělou inteligenci.
Umělá inteligence musí být špatná.
Toto je jednoduchý morální kalkul, ke kterému byla podmíněna velká část USA.
Umělá inteligence je děsivá a potřebuje regulaci, a pokud s ní nesouhlasíte, jste jako Donald Trump. To je titulek.
Ale jak bude tato „regulace“ vypadat?
To je dobrá otázka. Nejsem si jistý, jestli na ni ještě někdo má vyčerpávající odpověď.
Diskuse se točí kolem „kill switchů“. Bank of England je navrhla před měsíci, aby zabránila obchodníkům s akciemi využívajícími umělou inteligenci způsobovat krachy na trhu, a poslanec Ted Lieu chce, aby Kongres do konce roku schválil legislativu, která by je nařizovala.
Dva liberální profesoři píšící pro Project Syndicate nám vysvětlují „správný způsob“ regulace umělé inteligence pomocí odstavců, jako je tento:
Řešení společenských rizik umělé inteligence vyžaduje instituce navržené tak, aby identifikovaly vznikající hrozby a reagovaly na ně dříve, než povedou k systémovým selhání.
…a tento:
Tyto zkreslené priority pramení z vykreslování vývoje umělé inteligence jako geopolitického závodu. Technologické vedení však málo znamená, pokud k němu dochází na úkor zdraví pracovníků, sociální odolnosti a schopnosti lidí vést smysluplný život. Země, která vyvíjí nejvýkonnější modely umělé inteligence na světě a zároveň snižuje kvalifikaci své pracovní síly a zamořuje svůj veřejný diskurz dezinformacemi, nezískala nic, co by stálo za to vyhrát.
Vyjadřuje spíše nálady než detaily, ale myslím, že naznačuje velmi známou marketingovou strategii a vágní politický směr.
Tato nejednoznačnost je v tomto bodě z velké části úmyslná.
Nejprve chtějí, aby je veřejnost o něco prosila. Později se mohou rozhodnout, co to „něco“ bude.
