Co bude AI znamenat pro svobodu a vládu?
„Pokud se společnosti nebo malé skupině lidí podaří vyvinout božskou digitální superinteligenci, mohli by ovládnout celý svět. Pokud existuje zlý diktátor, ten člověk alespoň zemře. Ale pro AI by nebyla žádná smrt. Žila by věčně. A pak byste měli nesmrtelného diktátora, kterému jsme nikdy nemohli uniknout .“ -Elon Musk (2018)
„Deep State“ se chystá zasáhnout turbo
Zatímco se média zaměřují na to, do jaké míry by Project 2025 Project 2025 mohl být příručkou Trumpovy administrativy k uzamčení národa, pod rouškou jedinečné Trumpovy cirkusové politiky se odehrává podvratnější mocenská hra.
Když se podíváte pozorně, uvidíte, že navzdory všem tvrzením o opaku nemá Trump v úmyslu zrušit Deep State. Spíše byl najat Deep State , aby zahájil zlatý věk AI.
Připravte se na stav dozoru 2.0.
K dosažení tohoto přeplňovaného stavu dozoru se vláda obrací ke své dosud nejmocnější zbrani: umělé inteligenci . Umělá inteligence se svou schopností učit se, přizpůsobovat se a operovat rychlostí, kterou si lidé neumí představit, je na dobré cestě stát se hybnou silou tohoto nového světového řádu.
Během 70 let se technologie vyvinula tak rychle, že přešla od raných počítačů, které vykazovaly primitivní formu umělé inteligence, přes strojové učení (systémy umělé inteligence, které se učí z historických dat) a hluboké učení (strojové učení, které napodobuje lidský mozek), až po generativní umělou inteligenci, která dokáže vytvářet originální obsah, tj. zdá se, že je schopna myslet sama za sebe.
Blížíme se k bodu, odkud není návratu
Technicky řečeno, tento bod, ze kterého není návratu, se výstižně nazývá „singularita“, bod, ve kterém umělá inteligence zastíní své lidské operátory a stane se všemocnou. Elon Musk předpověděl, že by singularita mohla nastat do roku 2026. Vědec AI Ray Kurzweil si to představuje pro rok 2045.
Zatímco věda má mnoho co říci o světově měnícím se dopadu umělé inteligence na každý aspekt našeho života, málo bylo řečeno o její rostoucí roli ve vládě a jejím utlačujícím vlivu na naše svobody, zejména „základní demokratické principy soukromí, autonomie, rovnosti, politického procesu a právního státu“.
Podle zprávy společnosti Accenture se odhaduje, že generativní umělá inteligence má potenciál automatizovat významnou část pracovních míst ve veřejném i soukromém sektoru.
Zde je myšlenka: Co když Trumpův slib snížit počet federálních zaměstnanců není ve skutečnosti o omezení vládní byrokracie, ale o outsourcingu do sektoru AI?
Trump se netajil svými plány učinit z umělé inteligence prioritu. Ve skutečnosti Trump podepsal první výkonný příkaz o AI v roce 2019. Nedávno Trump vydal exekutivní příkaz, který dává technologickému sektoru zelenou k vývoji a nasazení umělé inteligence bez jakýchkoli zábran, které by omezily rizika pro americkou národní bezpečnost, ekonomiku, veřejné zdraví nebo bezpečnost.
Prezident Biden nebyl o nic lepší. Jeho výkonný příkaz , který Trump zrušil, jednoduše nařídil technologickému sektoru, aby sdílel výsledky bezpečnostních testů AI s americkou vládou.
Ale podle stejného vzoru jako zavedení dronů vláda rychle přijala technologii AI, ale neudělala téměř nic, aby zajistila ochranu práv amerického lidu.
Ve skutečnosti vládní využití umělé inteligence postrádá jakékoli mantinely pro transparentnost, odpovědnost a dodržování zásad právního státu.
Jak Karl Manheim a Lyric Kaplan vysvětlují ve znepokojivém článku v Yale Journal of Law & Technology o rizicích, která AI pro soukromí a demokracii představuje, „umělá inteligence je nejpřevratnější technologií moderní doby… Její dopad pravděpodobně zastíní i rozvoj internetu, protože proniká do všech koutů našich životů… Pokroky AI nejen zahajují nový výpočetní věk a nové ústavní hrozby, ale také sociální hodnoty. Hrozba pro soukromí, kterou představují algoritmy na sociálních sítích a internetu věcí, je dobře známá. Co je méně ceněno, je ještě větší hrozba, kterou AI představuje pro samotnou demokracii .“
Klíčové slovo je „ digitální autoritářství “ nebo „ algokracie – pravidlo podle algoritmu “.
V algokracii „Mark Zuckerberg a Sundar Pichai, generální ředitelé Facebooku a Google, mají větší kontrolu nad životy a budoucností Američanů než zástupci, které volíme .“
Digitální autoritářství , varuje Centrum pro strategická a mezinárodní studia, zahrnuje používání informačních technologií ke sledování, potlačování a manipulaci s obyvatelstvem, ohrožování lidských práv a občanských svobod a kooptování a korumpování základních principů demokratických a otevřených společností, „včetně svobody pohybu, svobody projevu a práva na osobní soukromí, online i offline“.
Jak můžeme chránit naše soukromí před rostoucí hrozbou, kterou představuje technologický sektor, který spolupracuje s vládou?
Schopnost tak učinit již nemusí být v našich rukou
V roce 2024 nejméně 37 federálních agentur – od ministerstev pro vnitřní bezpečnost a záležitosti veteránů až po zdravotnictví a sociální služby – hlásilo více než 1 700 použití AI při provádění své práce, což je dvojnásobek oproti předchozímu roku. Tím se ani nezačnou brát v úvahu úřady, které jejich použití nenahlásily, ani použití na státní a místní úrovni.
Z těchto 1 700 případů na federální úrovni bylo 227 klasifikováno jako relevantní z právního hlediska nebo z hlediska bezpečnosti .
Obzvláště znepokojivý příklad toho, jak je umělá inteligence využívána vládními agenturami ve scénářích, které ohrožují práva a bezpečnost, pochází z investigativní zprávy The Washington Post o tom, jak orgány činné v trestním řízení v celé zemi „používají nástroje umělé inteligence způsobem, který nikdy nebyl zamýšlen: jako zkratka k nalezení a zatčení podezřelých bez dalších důkazů “.
To je v inženýrských kruzích známé jako „ automatizační zkreslení “, tendence slepě důvěřovat rozhodnutím učiněným výkonným softwarem, aniž bychom si byli vědomi jejich rizik a omezení. V jednom konkrétním případě policie použila technologii rozpoznávání obličeje s umělou inteligencí k zatčení a uvěznění 29letého muže za brutální útok na pracovníka ostrahy. Christopheru Gatlinovi trvalo dva roky, než očistil své jméno .
Gatlin je jedním z nejméně osmi celostátně známých případů, kdy policie provedla neoprávněné zatčení kvůli použití softwaru pro rozpoznávání obličeje AI v důsledku naprostého ignorování základní policejní práce (jako je kontrola alibi, shromažďování důkazů, potvrzování důkazů DNA a otisků prstů, ignorování fyzických vlastností podezřelých) a nutnosti splnit ústavní standardy řádného procesu a důvodné podezření. Podle Washington Post měli Asiaté a černoši až 100krát vyšší pravděpodobnost, že budou chybně identifikováni softwarem než běloši.
Počet případů, kdy umělá inteligence přispěla k falešným zatčením a pochybným policejním zásahům, je pravděpodobně mnohem vyšší , vzhledem k rozsahu, v jakém policejní oddělení v celé zemi technologii využívají, a bude se zvyšovat pouze v důsledku záměru Trumpovy administrativy odstranit dohled nad vymáháním práva a policejní reformy .
„Jak mohu porazit stroj?“ zeptal se muž, kterého policie neprávem zatkla za útok na řidiče autobusu kvůli nesprávné shodě AI.
Stává se téměř nemožné porazit AI stroj.
Je-li používán agenty policejního státu, činí „nás lidi“ ještě zranitelnějšími.
Takže co bude dál?
Zdá se, že se věci pro Trumpovu administrativu hýbou plnou parou, počínaje Stargate , projektem infrastruktury umělé inteligence v hodnotě 500 miliard dolarů zaměřeným na budování masivních datových center. Podle prvních zpráv by datová centra AI mohla být propojena s digitálními zdravotními daty a použita k vývoji vakcíny proti rakovině. Masivní zdravotnická datová centra pro použití AI samozřejmě znamenají, že něčí zdravotní data jsou férovou hrou pro všechny druhy identifikace, sledování a označování.
Ale to je jen špička ledovce.
Stav sledování v kombinaci s umělou inteligencí vytváří svět, ve kterém není kam utéct ani se schovat. Všichni jsme nyní považováni za vinné, dokud se neprokáže, že jsme nevinní.
Díky nepřetržitému dohledu vládní rozlehlé sítě špionážních center fúzních center jsme všichni jen sedící kachny, které čekají, až budou označeni, označeni, zacíleni, sledováni, zmanipulováni, vyšetřováni, vyslýcháni, nadáváni a obecně obtěžováni agenty amerického policejního státu.
Aniž byste kdy vědomě spáchali trestný čin nebo byli za něj odsouzeni, pravděpodobně jste vy a vaši spoluobčané byli vyšetřováni za chování, které vláda považuje za deviantní, nebezpečné nebo nežádoucí; skóre hrozeb na základě vašich spojení, aktivit a názorů; a katalogizovány ve vládní databázi podle toho, jak byste měli být oslovováni policií a dalšími vládními úřady na základě vaší konkrétní úrovně ohrožení.
Brzy bude každá domácnost v Americe klasifikována jako hrozba a bude jí přidělen stupeň ohrožení.
Je jen otázkou času, kdy budete neprávem obviněni, vyšetřováni a konfrontováni policií na základě datového algoritmu nebo hodnocení rizik sestaveného počítačovým programem poháněným umělou inteligencí.
Toto je systém, který vyzývá ke zneužívání
Manheim a Kaplan při psaní pro Yale Journal dospěli k závěru, že „lidé jako druh ohroženi být nemusejí, ale naše demokratické instituce a hodnoty určitě ano“.
Soukromí – Manheim a Kaplan to stručně popisují jako „právo činit osobní rozhodnutí za sebe, právo na zachování důvěrnosti svých osobních údajů a právo být sám, což jsou všechny součásti základního práva na soukromí “ – je obzvláště ohroženo.
S každou novou technologií sledování AI zavedenou a nasazenou bez ohledu na soukromí, práva podle čtvrtého dodatku a řádný proces jsou práva občanů marginalizována, podkopávána a narušována.
Stojíme na prahu kulturní, technologické a sociální revoluce jako nikdy předtím.
Sledování umělé inteligence již přetváří náš svět na svět, kde je svoboda stěží rozpoznatelná tím, že dělá to, co policejnímu státu chybí personál a zdroje, aby dělal efektivně nebo efektivně: být všude, sledovat, monitorovat, identifikovat, katalogizovat, ověřovat, porovnávat a domlouvat se s každým a se vším.
Jak řekl Eric Schmidt, bývalý generální ředitel společnosti Google: „Víme, kde jste. Víme, kde jsi byl. Můžeme víceméně vědět, co si myslíte… vaše digitální identita bude žít navždy… protože neexistuje tlačítko pro smazání. „
Důsledky vlády ovládající takovou neregulovanou, nekontrolovatelnou moc jsou děsivé, protože sledování AI je konečným nástrojem útlaku a kontroly pro tyrany i benevolentní diktátory.
Čínský systém sociálních kreditů, který občanům přiděluje body na základě jejich chování a konformity, skutečně nabízí pohled do této dystopické budoucnosti.
Nejde o boj proti technologii samotné, ale proti jejímu zneužívání. Je to boj o zachování naší lidskosti, naší důstojnosti a naší svobody tváří v tvář bezprecedentní technologické síle. Je to boj o to, aby umělá inteligence sloužila nám a ne naopak.
S ohledem na toto hrozící nebezpečí je nyní načase jednat, než se hranice mezi občanem a subjektem, mezi svobodou a kontrolou nenávratně sestří.
Závisí na tom budoucnost svobody
Požadujte tedy transparentnost. Vyžadujte odpovědnost.
Požadujte „elektronickou listinu práv“, která chrání „nás lidi“ před zasahujícím dozorovým státem.
Potřebujeme záruky, abychom zajistili právo na vlastnictví a kontrolu údajů (právo vědět, jaké údaje se o nich shromažďují, jak jsou používány, kdo k nim má přístup a právo být „zapomenut“), právo na algoritmickou transparentnost (abychom porozuměli tomu, jak algoritmy dělají rozhodnutí, která je ovlivňují, zejména v oblastech, jako jsou žádosti o úvěr, nábor práce a trestní soudnictví) a odpovídající odpovědnost; právo na soukromí a bezpečnost dat, včetně omezení používání sledovacích technologií založených na umělé inteligenci vládami a společnostmi, zejména rozpoznávání obličeje a prediktivní policejní práce; právo na digitální sebeurčení (svoboda od automatizované diskriminace na základě algoritmického profilování) a schopnost spravovat a kontrolovat svou online identitu a pověst; a účinné mechanismy k nápravě škod způsobených systémy umělé inteligence.
Umělá inteligence používaná bez záruk proti zneužití, zejména ve vládních agenturách, má potenciál stát se tím, co Elon Musk nazýval „ nesmrtelným diktátorem “, který žije věčně a před kterým není úniku.
Ať už to nazvete jakkoli – policejní stát, hlubinný stát, dozorčí stát – tento „nesmrtelný diktátor“ bude budoucí tváří vlády, pokud ji nyní neodstrčíme.
Jak píšu ve své knize Battlefield America: The War on the American People a jejím fiktivním protějšku The Erik Blair Diaries , příští rok už může být pozdě.
John a Nisha Whiteheadovi
