Hrozba umělé inteligence, předpovězená ve sci-fi příbězích, je již tady

Sci-fi již dlouho předznamenává hrozby a výzvy, které představuje umělá inteligence. Ve vesmíru „Star Treku“, zejména v původním seriálu, 2. sérii, 24. epizodě s názvem „The Ultimate Computer“, pronáší Dr. Leonard McCoy tuto dojemnou větu: „Soucit: To je jediná věc, kterou žádný stroj nikdy neměl. Možná je to jediná věc, která dává lidem nad nimi výhodu.“ Tato věta přichází poté, co revoluční nový počítač s umělou inteligencí, M5, využije svou bezduchou logiku umělé inteligence k proměnění cvičení ve smrtící masakr. V další epizodě „Star Treku“ se setkáváme s Nomadem, genocidní umělou inteligencí, která zbavuje vesmír biologických nedokonalostí.

Jako předzvěst vzestupu umělé inteligence s obrovskými hackerskými schopnostmi, jako je například „Mythos“ od Anthropic, využívají Cyloni ovládaní umělou inteligencí v novém pojetí „Battlestar Galactica“ (2003–2009) svou schopnost hacknout jakýkoli počítač připojený k síti, aby se vzbouřili a téměř zničili své tvůrce. V sérii „Terminátor“ se Skynet stal „chytrým“ (získal vědomí) a rozhodl o osudu lidstva – „zničení“ – v „mikrosekundě“, čímž rozpoutal na lidstvo jaderný Armageddon. Tyto příběhy varují, že umělá inteligence bez robustních ochranných opatření může vést ke katastrofě. Vzhledem k tomu, že se schopnosti umělé inteligence v roce 2026 dále zrychlují, fikce a realita se rychle sbližují. Softwarová ochranná opatření, průmyslové standardy a neúplné předpisy jsou nedostatečné. Nezbytný je pevnější základ – nekontrolovatelné návrhy hardwaru a změny v národním a mezinárodním právu.

Tři zákony robotiky Isaaca Asimova

Jak je popsáno v časopise „Spectrum“ Institutu elektrotechnických a elektronických inženýrů, tři zákony robotiky od renomovaného vědce a autora sci-fi Isaaca Asimova, které prezentoval ve svých příbězích „Já, robot“, poskytují promyšlený rámec pro bezpečnostní opatření v oblasti umělé inteligence:

1. Robot nesmí způsobit újmu jednotlivé lidské bytosti ani lidstvu, ani svou nečinností dovolit, aby byla člověku nebo lidstvu způsobena újma.
2. Robot musí poslouchat rozkazy, které mu dávají lidé, za předpokladu, že tyto rozkazy nejsou v rozporu s prvním zákonem.
3. Robot musí chránit svou vlastní existenci, pokud taková ochrana není v rozporu s prvním nebo druhým zákonem.

Stručně řečeno: Asimovovy zákony jsou dobrým výchozím bodem, ale jak je podrobně popsáno v Asimovově následném mistrovském díle, sérii „Nadace“, jsou nedostatečné, pokud jde o ochranu skutečného lidstva . Navíc bude skutečnou výzvou pevně integrovat vhodné mechanismy do umělé inteligence, jak se to stalo v Asimovově vesmíru s „pozitronickým“ mozkem. Přijetí výzvy vytvořit ochranná opatření, která jdou nad rámec softwarových přístupů, je však klíčové pro zajištění toho, aby umělá inteligence sloužila pouze ve prospěch lidstva.

Nedostatečnost opatření na ochranu softwaru, šifrování a samotné regulace

Softwarové ochranné mechanismy jsou modifikovatelné a zranitelné vůči hackerským útokům a zneužití.

A historie ukazuje zranitelnost samoregulace: únik dat Equifaxu (2017), útok na dodavatelský řetězec SolarWinds (2020), bezpečnostní zranitelnost MOVEit (2023) a probíhající narušení bezpečnosti ukazují, že firemní sliby o „robustních zárukách“ často selhávají.

Jsme na „divokém západě“ umělé inteligence bez dostatečných závazných globálních či národních rámců.

Skutečná ochrana díky neměnným hardwarovým strážcům

Historie ukazuje, že softwarová ochranná opatření v současnosti nemohou a nikdy nebudou poskytovat potřebnou úroveň ochrany. Inspirovaná Asimovovým pozitronovým mozkem, ochranná opatření implementovaná v ASIC (aplikačně specifických integrovaných obvodech) poskytnou klíčovou vrstvu ochrany a zvýší tak šance, že umělá inteligence bude lidstvu prospěšná, spíše než škodlivá. Tyto specializované čipy obsahují miliony řádků složité softwarové logiky neboli pravidel, fyzicky vyrytých přímo do samotného křemíkového hardwaru. Jakmile je čip vyroben a nasazen, tato pravidla se stanou neměnnými: nelze je změnit, aktualizovat ani obejít pomocí softwarových změn, záplat nebo pokusů o hacking. Jediný způsob, jak upravit vestavěnou logiku, je navrhnout a fyzicky vyrobit zcela nový ASIC čip – proces, který je drahý, časově náročný a velmi nápadný. Tím se vytváří „hardwarový firewall“, který je mnohem spolehlivější než jakékoli softwarové ochranné opatření a zajišťuje, že kritická bezpečnostní omezení zůstanou nezměněna, bez ohledu na to, jak chytré nebo agresivní se budoucí systémy umělé inteligence stát.

ASIC fungují jako fyzicky fixní, integrovaní strážci. A v budoucnu by procesory specifické pro umělou inteligenci i procesory pro všeobecné použití mohly tyto drobné ASIC integrovat přímo do CPU – jako vrstvu hardwarové kontroly umělé inteligence, která je standardní a nevolitelnou součástí CPU.

Některé navrhované základní principy návrhu:

• Protože hardwarová vrstva funguje jako rozhraní pro externí interakce – jak je tomu u některých moderních chytrých telefonů – může umělá inteligence v softwaru volně přemýšlet, plánovat a simulovat, aniž by ji zpomaloval ASIC. Teprve když jsou výsledky sděleny externě, ASIC zasáhne jako strážce brány, aby zajistil, že akce navržené umělou inteligencí splňují požadavky týkající se bezpečnosti a dalších omezení.
• Pobídky k školení: Algoritmy založené na nákladech nebo ztrátách atd. budou odměňovat umělou inteligenci za směrování akcí přes hardwarový screener a přísně ji penalizovat za pokus o obejití vrstvy hardwarového gatekeepera. To bude umělou inteligenci motivovat k tomu, aby se nesnažila obcházet její omezení.

Tak důležitá úroveň však bude fungovat pouze tehdy, pokud se její používání stane univerzálním.

Bez síly zákona, který nařizuje taková bezpečnostní opatření umělé inteligence, nebude schopna ochránit lidstvo.

Dnes, zejména ve válce mezi Ukrajinou a Ruskem, se obě strany snaží umožnit dronům, odděleným od lidské obsluhy, autonomně pokračovat ve své misi zabíjení nepřátelských bojovníků . To nelze tolerovat. Stejně jako mezinárodní společenství zakázalo používání chemických, biologických a plynných zbraní, musí být umělé inteligenci také zakázáno činit konečná rozhodnutí, která poškozují lidi. Toho by mohlo být dosaženo explicitní změnou Ženevských úmluv, která by zakazovala autonomní, smrtící rozhodnutí systémů umělé inteligence.

Umělá inteligence však může způsobit škodu i mimo bojiště. V důsledku toho je kromě aktualizace Ženevských úmluv nutné přijmout zákony týkající se nevojenského využití umělé inteligence. Aby se zabránilo zneužívání umělé inteligence v tzv. civilních aplikacích, musí existovat velmi závažné důsledky, včetně pokut dostatečně vysokých na to, aby ohrozily životaschopnost společností a neziskových organizací, uvěznění jednotlivců a ekonomických sankcí nebo dokonce vojenských akcí proti vládám, které provozují systémy umělé inteligence bez nezbytné neměnné hardwarové bezpečnostní vrstvy a dalších záruk.

Výše uvedené je pouze prvním návrhem toho, co by měl rámec zahrnovat, ale ať už bude mít jakoukoli formu, měl by ztělesňovat ducha Asimovových tří zákonů, doplněného zárukou respektování lidské jedinečnosti. Současná směsice zákonů, standardů a technologií je zcela nedostatečná. Potřebujeme komplexní a ucelený rámec, podpořený plnou silou národních a mezinárodních zákonů, které stanoví limity pro umělou inteligenci.

A konečně, musíme odolat chvalozpěvům pohodlí a efektivity, pokud jde o rozhodnutí, která mohou lidem ublížit, a zajistit, aby taková rozhodnutí činili morální činitelé odpovědní lidstvu a jeho Stvořiteli – tedy lidé, a nikoli bezduché umělé inteligence.

Od Tylera Durdena