Ed Dowd: Hra s umělou inteligencí „Hra o trůny“

Pro odvětví umělé inteligence se blíží zima a velcí hráči už tasí meče.

Na jedné straně stojí OpenAI a Anthropic, schované za praporem „bezpečnosti“… Monopoly House.

Na druhé straně jsou akceleracionisté, včetně Davida Sackse, prezidenta Trumpa a rostoucí frakce, která chce cestu spíše vydláždit, než blokovat… House Speed ​​Racer.

Bitva je vylíčena jako konfrontace mezi existenčním nebezpečím a národním osudem.

Tohle je boj o moc, peníze a kontrolu.

Průměrný občan u stolu nesedí.

Sleduji tento film od té doby, co panika po Svátku práce opadla. Minulý týden jsem napsal článek s názvem „Začala panika kolem umělé inteligence po Svátku práce, psychopatická operace“, v němž podrobně popisuji, jak bývalý zaměstnanec Anthropic a OpenAI, který předtím na X nezanechal téměř žádnou stopu, zveřejnil podrobné varování, že si laboratoře „hrají s našimi životy“. Příspěvek během jednoho dne získal 123 milionů zhlédnutí. Objevují se mainstreamová média, nevládní organizace a členové Kongresu, jako by na povel. Dva dny poté, co jsem napsal svůj psychopatický článek, se Dario Amodei objevuje v každém programu a naléhá na nás, abychom „otestovali hranice“. Sam Altman souhlasně přikyvuje a pak se do toho zapojuje Elon Musk, přestože předtím zpochybnil dobře koordinované sdělení. Mám podezření, že jeho motivem pro souhlas je zajistit si, aby byl u jednacího stolu, pokud by tento kurz nabral na obrátkách. Dokonce i Hillary a Obama se vyjádřili… evidentně na straně „monopolu Sněmovny reprezentantů“. V podstatě „monopol Sněmovny reprezentantů“ chce v laboratořích zapojené odborníky a jednotné bezpečnostní standardy. Tato koordinace by vyžadovala schválení vlády – a pohodlně i výjimku z antimonopolních zákonů – aby se dva největší poskytovatelé systémů s uzavřenou smyčkou mohli společně sejít a rozhodnout se, jak rychle se ostatní mohou posunout vpřed, a efektivně tak vytlačit konkurenci z trhu prostřednictvím regulace. To není altruismus; je to regulační kooptace.

Důvody pro tento pokus o převzetí regulačními orgány jsou jednoduché a již jsem se jimi zabýval ve svém předchozím článku.

Open-source modely vyvíjejí skutečný cenový tlak na zavedené, proprietární systémy. Společnosti s uzavřenými systémy spalují peníze, aniž by se očekávala jakákoli návratnost investic. Firmy se konečně ptají na návratnost investic a na to, zda raději ukládají svá data v OpenAI nebo Anthropic. Ocenění na sekundárním trhu se začíná hroutit. Růst se zpomaluje a financování kapitálových výdajů je stále obtížnější.

House Speed ​​​​Racer se nebránil. Trump označil paniku za podvod a falešný výmysl. Řekl, že jedinými zárukami, které umělá inteligence potřebuje, jsou silný prezident, že nad těmito společnostmi už máme trestní a regulační moc a že ten, kdo v otázce umělé inteligence vyhraje, celkově vyhrál. Sacks, který je v tomto boji déle než většina ostatních, řekl Amodeimu a Altmanovi, že si můžou dát na čas, pokud chtějí, ale měli by přestat předstírat, že pro kartel potřebují požehnání Washingtonu. Přestaňte žádat o výjimku. Přestaňte maskovat ochranu trhu jako záchranu veřejnosti.

Agenda je politická a všichni v místnosti to vědí. Bezpečnostní rétorika se nejsnáze šíří v demokratických sítích, zavedených nevládních organizacích, v těch částech administrativního státu, které rostou, když roste strach, a samozřejmě v mainstreamových médiích. Stránka akcelerace je kódována MAGA: porazit Čínu, stavět zde, nedávat budoucnost bruselským byrokratům ani korporacím, které se roky prezentovaly jako morální opozice vůči současné vládě. Tento tábor se nemýlí, když říká, že ekonomické zpomalení způsobené současným vedením je darem pro Peking. Stejně tak je však pravda, že rozšiřování datových center, rostoucí ceny elektřiny a ztráta pracovních míst již dopadají na obyčejné lidi, kteří nikdy neměli hlas.

Klíčovým regulátorem pro obě strany je úvěrový trh a jeho ochota financovat tento dosud nerentabilní podnik.

„Monopol Sněmovny reprezentantů“ před Trumpem

Za připomenutí stojí také to, jak plán vypadal za Bidenovy administrativy. Marc Andreessen vyprávěl tento příběh před dvěma lety a nepřestává ho opakovat. V květnu 2024 seděl v Bílém domě za Bidena a odešel přesvědčen, že plán spočívá v regulaci odvětví, dokud nezůstanou jen dvě nebo tři společnosti a startupy nebudou vymazány z trhu. Opustil místnost a rozhodl se podpořit Trumpa. Minulý týden Politico náhle zveřejnil článek, který schůzku popřel.

To je perfektní načasování! Když vyprávění vyžaduje, aby byl původní příběh pohřben, stane se to přesně, jako na stroji. „Sněmovna monopolů“ by raději zapomněla na její nekalé machinace před Trumpovým zvolením.

Andreessenův hlavní argument byl vždy stejný: existuje rozdíl mezi rychlým pokrokem technologií a skutečností, že zavedení hráči využívají stát k tomu, aby za sebou zavřeli dveře. „Plán“, jak ho popsal, nikdy nespočíval v ochraně lidstva. Šlo o to, aby se rozhodlo, kdo bude vlastnit elektrárnu – konkrétně vybraných několika oligarchů a hlubokého státu.

Tady jsme teď

„House Monopoly“ chce z „bezpečnostních důvodů“ licenční kartel a fúzi průkopnické umělé inteligence s administrativním státem… digitálním žalářem, před kterým mnozí varovali.

House Speed ​​​​Racer pojede na plný plyn, protože podle jejich názoru je alternativou prohrát závod s Čínou z důvodů národní bezpečnosti.

V obou domech sedí lidé, kteří se budou mít dobře tak či onak. Mají majetky v řádu stovek miliard, mají politický vliv a mohou psát pravidla – nebo vystavovat šeky těm, kdo pravidla píší.

Kdo zastupuje průměrného občana?

Osoba, jejíž práce může být ztracena, jejíž účet za elektřinu již kvůli expanzi roste, jejíž data jsou vtahována do modelů, nad nimiž nemá žádnou kontrolu, a která bude žít pod standardy svobody projevu a sledování, které vítězná strana považuje za „bezpečné“ – tato osoba nemá u jednacího stolu místo. Slyšení se zúčastní stejní generální ředitelé, stejní bývalí úředníci, kteří se pohybují mezi stejnými společnostmi, a stejní senátoři, kteří již mají rozpracované návrhy zákonů.

Myslím, že se nám zde prezentuje falešná dichotomie. Nikdy to není černobílé; problémy jsou mnohem složitější. V této situaci nejsou snadná rozhodnutí. Existují skutečná rizika… Modely, které mohou narušit kybernetickou bezpečnost a způsobit chaos, nejsou sci-fi. Nutit místní komunity k akceptaci datových center není cesta vpřed. Navíc obě strany ignorují občanské svobody týkající se integrity osobních údajů, právo odhlásit se z modelů, které tato data používají pro školení, obavy o budoucí pracovní vyhlídky a obavy místních komunit ohledně datových center. Dostanou občané na místní úrovni hlas?

Jako vždy: Hledejte peníze, věnujte pozornost tomu, kdo píše pravidla, a sledujte, kdo má zvláštní zacházení. Tohle je „Hra o trůny“ a Železný trůn je k mání. Obyčejní lidé nejsou na korunovaci pozváni… zatím ne. Doufejme, že najdeme třetí cestu. Podle mého skromného názoru je „House Monopoly“ dystopická varianta, která nepřipadá v úvahu, a „House Speed ​​Racer“ se musí zabývat legitimními obavami občanů, jinak riskuje prohru v narativní válce proti těmto sobeckým šiřitelům strachu.

Izajáš 10:1–2

„Běda těm, kdo vydávají nespravedlivé zákony, ty, kdo vydávají utlačující nařízení… aby zbavili chudé jejich práv a odepřeli spravedlnost utlačovaným mého lidu.“