Seymour Hersh: Umělá inteligence a její tajné důsledky

V poslední době hodně cestuji a minulý týden jsem navštívil architektonickou výstavu v Benátkách, která oslavovala oceněný projekt s názvem Calculating Empires (Výpočet empíří) . Projekt vyvinuli dva akademici: Kate Crawfordová z USC Annenberg a Microsoft Research a Vladan Joler z Univerzity v Novém Sadu v Srbsku.

Její výstava, zahrnující desítky velkých panelů, ukazovala rozvoj technologií a moci od roku 1500.

Sledovala historii zbraní – od střelného prachu přes atomovou bombu až po mikrodrony a autonomní kybernetickou válku. Poselství, které jsem si z toho odnesl – a bylo nemožné si ho nevšimnout – bylo, že pokud nedojde k zásadní změně lidského chování, vzorce minulosti by mohly nevyhnutelně vést k totální jaderné válce. Děsivé věci.

Také jsem se dozvěděl, že Kate Crawfordová byla jednou z prvních vědkyň, které se zabývaly umělou inteligencí a varovaly před nebezpečím, které tato technologie představuje ve špatných rukou. V roce 2021 vydala u nakladatelství Yale University Press knihu Atlas of AI . Je to historie a analýza umělé inteligence, která – jak jsem ji chápal – měla být naléhavým varováním, že umělá inteligence se mezi americkými miliardáři a vojenskými vůdci, kteří ji využívají k přetváření a ovládnutí globální ekonomiky, příliš rychle uchytila.

Crawfordové kniha je hutná, ale velmi čtivá. Tvrdí, že kontrola nad umělou inteligencí by neměla být, jak je tomu v současnosti, v rukou vysloužilých amerických generálů a miliardářů, jejichž konečným cílem je využít obrovskou sílu špičkových technologií k vylepšování zbraní a dosažení obrovských zisků v tomto procesu.

„Ani umělé, ani inteligentní“

Nejvíc mě zaráží Crawfordovo tvrzení, že umělá inteligence není „ani umělá, ani inteligentní“. [Její zvýraznění.] Píše:

„Umělá inteligence je spíše ztělesněná i materiální, vyrobená z přírodních zdrojů, paliva, lidské práce, infrastruktury, logistiky, historie a klasifikací. Systémy umělé inteligence nejsou autonomní, racionální ani schopné cokoli vědět bez intenzivního, výpočetně nákladného školení s velkými datovými sadami nebo předem definovanými pravidly a odměnami. Ve skutečnosti umělá inteligence, jak ji známe, závisí na mnohem širším souboru politických a sociálních struktur. A kvůli kapitálu potřebnému k vybudování umělé inteligence ve velkém měřítku a perspektivám, které optimalizuje, jsou systémy umělé inteligence nakonec navrženy tak, aby sloužily stávajícím dominantním zájmům. V tomto smyslu je umělá inteligence registrem moci.“

Crawford jasně uvádí, že umělá inteligence není jen technickým oborem, ale má také sociální a ekonomické důsledky. Na „základní úrovni,“ píše, „se umělá inteligence skládá z technických a sociálních praktik, institucí a infrastruktur, politiky a kultury. Výpočetní logika a ztělesněná práce jsou hluboce propojeny. Systémy umělé inteligence odrážejí a vytvářejí jak sociální vztahy, tak i chápání světa.“

Koncepční debaty: AI vs. strojové učení

Poznamenává, že termín „umělá inteligence“ může v komunitě informatiků vyvolávat nepohodlí. Tento termín v průběhu desetiletí střídavě zaniká a znovu se objevuje – a nyní se častěji používá v marketingu než ve výzkumu.

Termín „ strojové učení “ se častěji používá v technické literatuře.

Crawford vysvětluje, že termín „AI“ se nejčastěji používá, když vědci „hledají pozornost tisku kvůli novému vědeckému výsledku“ nebo „když se objeví investory rizikového kapitálu se svými šekovými knížkami“.

„Výsledkem je, že tento termín je jak používán, tak odmítán – způsoby, které udržují jeho význam v neustálém vývoji. […] Termín „AI“ používám k označení masivní průmyslové formace, která zahrnuje politiku, práci, kulturu a kapitál. Když mluvím o strojovém učení, mám na mysli soubor technických přístupů (které jsou ve skutečnosti také sociální a infrastrukturní, i když se o nich takto zřídka mluví).“

Umělá inteligence je hluboce politická

Hlavním argumentem Crawfordovy knihy je, že umělá inteligence je v podstatě politická – způsobem, který zůstává většině uživatelů skryt.

Vysvětluje:

„Existují závažné důvody, proč se tento obor tolik zaměřuje na technické aspekty – algoritmické průlomy, postupná vylepšení produktů a větší pohodlí. Z této úzké, abstraktní analýzy těží mocenské struktury na křižovatce technologií, kapitálu a správy věcí veřejných. Abychom pochopili, jak je umělá inteligence v zásadě politická, musíme se posunout za hranice neuronových sítí a statistického rozpoznávání vzorců a místo toho se ptát, co je optimalizováno, pro koho a kdo rozhoduje. Pak můžeme sledovat důsledky těchto rozhodnutí.“

Náhled

Příští týden budu psát o environmentálních a sociálních nákladech neustále se rozšiřujících zařízení umělé inteligence. Třetí část se zaměří na americké miliardáře, kteří si zajistili kontrolu nad světem umělé inteligence – kdo jsou a co chtějí, jak to hodnotí Crawford.