Robotičtí vraždící psi jsou tady – co čekat

• Společnost Sword Defense Systems představila svou speciální bezpilotní pušku (SPUR) v říjnu 2021.
• SPUR byl navržen tak, aby poskytoval přesnou palbu z robotů nebo „bezpilotních platforem“, včetně čtyřnožce Vision-60 od Ghost Robotics, která připomíná psa.
• Autonomní zabijácké psí roboty by mohly být využívány nejen pro účely sledování a obrany, ale také pro útočné manévry k strašení a ovládání civilistů.
• Společnost Boston Dynamics, která vyrábí řadu čtyřnohých robotů, se zabývala některými nevyhnutelnými otázkami ochrany soukromí, občanských práv a bezpečnosti, které taková technologie přináší, včetně zákazu odzbrojování svých strojů.
• Koalice Stop Killer Robots je odhodlána udržet lidi pod kontrolou nad použitím síly a vyzývá k vypracování mezinárodního zákona o autonomii zbraňových systémů.
• Koalice věří, že bez akce jsou morální závazky a stávající právní pravidla ohroženy, protože digitální dehumanizace narůstá.

Už jste viděli video, které kolovalo internetem, jak robotický pes střílí z útočné pušky? Záběry robotického psa střílejícího na různé cíle s puškou připoutanou na zádech jsou mrazivé, ale podle The Verge pravděpodobně zobrazují „nebezpečnou hračku, kterou dal dohromady ruský start na hoverbike“.

Plakát videa na YouTube, Alexander Atamanov, dříve zveřejnil obrázky, jak si hraje se stejným robotickým psem bez zbraně, a zdá se, že má zálibu ve vojenské výstroji. „Zdá se mnohem pravděpodobnější, že spojil spoustu svých zájmů, a méně pravděpodobné, že vážně pronásleduje válečnou zbraň,“ uvádí The Verge.

I když se tohoto ozbrojeného psího robota není třeba bát, existují robotí psi se zbraněmi a jsou zlověstným varováním před budoucími bitevními scénáři. V nejhorším případě by se robotičtí vražední psi mohli snadno použít k šíření strachu a udržení kontroly nad civilisty:

Svět si začíná uvědomovat, že technologie pro přeměnu robotů ve smrtící zbraně skutečně existuje, a skutečně děsivá myšlenka je, že by mohli začít zabíjet autonomně, pokud tak již neučinili. To se v tuto chvíli zdá téměř nevyhnutelné, ať už je to pes nebo ne.

Po zhlédnutí videa zabijáckého robotického psa politický spisovatel James Melville na Twitteru napsal: „Hodiny nyní odbíjejí třináctou,“ s odkazem na dystopický román George Orwella 1984.

Jsou tu čtyřnožní roboti a bezpilotní zbraňové systémy

Společnost Sword Defense Systems představila svou bezpilotní speciální pušku SPUR (Special Purpose Unmanned Rifle) v říjnu 2021. SPUR, navržený pro přesnou palbu z robotů nebo „bezpilotních platforem“, jako je čtyřnožec Vision-60 od Ghost Robotics, který připomíná psa, má speciální senzory, které mu umožňují střílet za různých podmínek, včetně noci.

„SPUR™ společnosti SWORD Defense Systems je budoucností bezpilotních zbraňových systémů a tato budoucnost je nyní,“ píše společnost na svých webových stránkách. Vision-60 quadruped je psí robot popsaný společností Ghost Robotics jako „pozemský dron do každého počasí pro použití v široké škále nestrukturovaných městských a přírodních prostředí pro obranu, vnitřní bezpečnost a podnikové aplikace“. Společnost vysvětluje:

I když je prostředí zcela neznámé, zrakové senzory nefungují nebo selžou, můžete si být jisti, že pokud náš robot s nohama selže, uklouzne nebo upadne, okamžitě se vrátí a bude pokračovat. Naším cílem je učinit z našich Q-UGV nezbytný nástroj a neustále posouvat hranice, abychom zlepšili jejich schopnost chodit, běhat, plazit se ve složitých prostředích, ve kterých naši zákazníci musí každý den pracovat, lézt a nakonec plavat.

Společnost Ghost Robotics uvádí, že má více než 25 zákazníků z oblasti národní bezpečnosti a dosud dodala více než 200 robotů. Společnost spolupracuje mimo jiné se společnostmi obranného průmyslu, AT&T, Verizon, Amazon a Honeywell.

Je snadné si představit, že tyto autonomní psí roboty by mohly být použity nejen pro účely sledování a obrany, ale také pro útočné manévry. „Podrobnosti o partnerství Ghost a Sword jsou nejasné,“ podle The Verge, „ale čtyřnozí roboti Ghost již procházejí testováním americké armády.

Proč výrobce robotů zakazuje zbraně

Společnost Boston Dynamics, která vyrábí řadu čtyřnohých robotů včetně známého Spotu, řeší některé z nevyhnutelných problémů v oblasti soukromí, občanských práv a bezpečnosti, které taková technologie přináší. Na rozdíl od mnoha jiných výrobců robotů firma zakázala vyzbrojování svých strojů.

Jedna z jejich etických zásad říká: „Nedovolíme, aby byli naši roboti používáni jako zbraně nebo autonomní zaměřovací systémy, ani nebudeme spolupracovat s těmi, kteří si to přejí. Pokud jsou naše produkty používány k poškození, přijmeme příslušná opatření, abychom toto zneužívání zmírnili.“ Společnost také prohlašuje, že bude spolupracovat s vládními, komerčními a veřejnými zákazníky, jakož i zákonodárci, a zavázala se dodržovat zákony na ochranu soukromí a občanských práv:

Nebudeme autorizovat ani spolupracovat s těmi, kteří chtějí používat naše roboty způsobem, který porušuje soukromí a občanské svobody. Uvědomujeme si, že nové technologie umělé inteligence, jako je kupř.  počítačové vidění a algoritmy pro identifikaci osob nastolují otázky etiky, zákonnosti a potenciální předpojatosti související s jejich používáním ve veřejném prostoru.

Přesto věří, že příští generace robotů budou partnery, kteří budou „pracovat mezi námi“ a vytvářet partnerství mezi člověkem a robotem. Pokud jde o zabijácké roboty, známé také jako smrtící autonomní zbraňové systémy (LAWS), americká vláda je na palubě. Podle Kongresové výzkumné služby (k 1. prosinci 2020):

Zásady USA nezakazují vývoj nebo používání ZÁKONŮ. Ačkoli Spojené státy v současnosti nemají ve svém arzenálu ZÁKONY, někteří vysocí vojenští a obranní činitelé uvedli, že Spojené státy mohou být v budoucnu nuceny vypracovat ZÁKONY, pokud se tak potenciální američtí protivníci rozhodnou.

Rostoucí počet států a nevládních organizací zároveň apeluje na mezinárodní společenství, aby z důvodu etiky regulovalo nebo zakázalo ZÁKONY.

Čtvrtá průmyslová revoluce: roboty nahrazují lidské pracovníky

První průmyslová revoluce, která se odehrála na počátku až polovině 18. století, přinesla využití parní energie po celém světě. Druhá průmyslová revoluce probíhala od konce 19. do počátku 20. století a zaznamenala pokroky v ocelářském, elektrotechnickém a automobilovém průmyslu.

Třetí průmyslová revoluce podle Klause Schwaba, zakladatele a výkonného předsedy Světového ekonomického fóra (WEF), „použila elektroniku a informační technologie k automatizaci výroby“, zatímco čtvrtá průmyslová revoluce již začala a „prostřednictvím fúze technologie, které stírají hranice mezi fyzickou, digitální a biologickou sférou“.

Jde o pokračující rozvoj umělé inteligence (AI) a integraci s lidmi a využívání robotů způsoby, které dříve nebyly nebo v některých případech ani nepředstavovaly.

Kai-Fu Lee, autor knihy AI Super-Powers: China, Silicon Valley, and the New World Order a bývalý vedoucí pracovník společnosti Google China, řekl, že věří, že pokud roboty nahradí pracovníky, dojde k rychlému přesunu pracovních míst a že v příštích 10 let bude nahrazeno tolik pracovních míst, že lidé budou muset najít štěstí bez práce. Amazon také uvedl, že plně automatizované přepravní sklady, kde roboti nahradí lidi při plnění objednávek, mohou být vzdáleny pouhých 10 let.

WEF na svém summitu Jobs Reset Summit také uvedl, že do roku 2025 bude muset být 50 % pracovníků rekvalifikováno, „když se projeví „dvojí narušení“ ekonomického dopadu pandemie a rostoucí automatizace měnící pracovní místa“. WEF tvrdí, že do roku 2025 by mohlo zaniknout 85 milionů pracovních míst, zatímco dalších 97 milionů by mohlo být vytvořeno, aby se přizpůsobilo „nové dělbě práce mezi lidmi, stroji a algoritmy“.

Realita je však taková, že v tomto robotickém a AI řízeném světě by pravděpodobně našel práci jen zlomek lidí, což by si vyžádalo zavedení univerzálního základního příjmu.

Zpočátku to může znít jako dobrá věc, ale když je schopnost generovat nezávislý příjem zničena, člověk se stává závislým a je vydán na milost a nemilost elitě, která kontroluje tento příjem a zdroje, které s ním souvisí. Všeobecné odpuštění dluhů by také mohlo být zavedeno výměnou za ztrátu všech budoucích soukromých vlastnických práv. Přihoďte ozbrojené robotické psy a máte recept na tyranii.

Problémy s digitální dehumanizací

Existuje mnoho vzrušujících robotických aplikací, z nichž mnohé by mohly mít pozitivní dopad na společnost. Například čtyřnohý robot vyvinutý společností Boston Dynamics byl testován na pohotovosti v Bostonu, kde se místo lidského lékaře střídali lidé.

Většina uvedla, že tato zkušenost byla podobná jako při osobní návštěvě a byla dokonce otevřena robotům, kteří odebírají nosní výtěry, zavádějí katétry, odebírají krev a další.

Tým nyní pracuje na menších robotech, kteří by byli schopni komunikovat s pacienty mimo typickou nemocnici, např. B. v sanitce nebo polní nemocnici a vyvinout senzory, které by mohly na dálku měřit životní funkce. Používání robotů však může mít značné důsledky a vést k digitální dehumanizaci.

Podle koalice Stop Killer Robots Coalition by měla být technologie používána k posílení, nikoli k redukci lidí na „vzorec 1s a 0s“. Koalice je nejen odhodlána zajistit, aby lidé měli i nadále kontrolu nad použitím síly, ale také vyzývá k vypracování mezinárodního zákona o autonomii zbraňových systémů. Koalice věří, že bez akce jsou morální závazky a stávající právní pravidla ohroženy, protože digitální dehumanizace narůstá:

Stroje nás nevidí jako lidi, jen další kus kódu, který je třeba zpracovat a roztřídit. Od chytrých domácností po používání robotických psů policií, technologie AI a automatizované rozhodování nyní hrají v našich životech důležitou roli. Na extrémním konci spektra automatizace jsou zabijácké roboty.

Roboti zabijáci se jen tak neobjevují – my je vytváříme. Pokud tuto dehumanizaci dovolíme, jen těžko se budeme chránit před rozhodnutími strojů v jiných oblastech našeho života. Musíme zakázat autonomní zbraňové systémy, které by mohly být použity proti lidem, abychom zabránili tomuto sklouznutí k digitální dehumanizaci.

Inženýr tvrdí, že počítač s umělou inteligencí získal rozum

S pokrokem v AI a robotice lidé vstupují na nové území, kde se hranice mezi člověkem a strojem stírají. Podle inženýra společnosti Google Blakea Lemoinea AI chatbotová aplikace nazvaná LaMDA, což je zkratka pro Language Model for Dialogue Applications, získala vnímavost, neboli nezávislé vědomí sebe sama.

Google zamítl Lemoineho tvrzení a dal mu placenou administrativní dovolenou za porušení důvěrnosti, ale stále se hodně diskutuje o tom, zda se umělá inteligence může stát sebevědomým a vyvinout se mimo lidskou kontrolu. Potenciál světa nabrat velmi temný obrat, zejména pokud jde o smrtící autonomní zbraňové systémy, by byl obrovský, ačkoli mnozí věří, že AI je a pravděpodobně zůstane necitlivá.

Naléhavějším problémem, alespoň prozatím, je pokračující vývoj robotů používaných k zabíjení. V roce 2020 byl zavražděn přední íránský jaderný vědec Mohsen Fakhrizadeh „zabijáckým robotem“ – kulometem připojeným k robotickému nástroji vybavenému AI a několika „očima“ kamery ovládané přes satelit.

Podle zpráv mohly během druhé libyjské občanské války v březnu 2020 jednat autonomně a zabíjet lidi vyzbrojené drony poháněné umělou inteligencí. Jak už to tak často bývá, technologický pokrok předběhl schopnost lidí plně porozumět jeho důsledkům – v dobrém i ve zlém. Elke Schwarz, členka Mezinárodního výboru pro kontrolu robotických zbraní, v rozhovoru pro The Verge vysvětlila:

Ve své práci se snažím ukázat, že používání těchto typů systémů pravděpodobně zhorší násilné činy jako „snazší“ volbu. A … velmi pravděpodobně dojde k chybám […], které budou pravděpodobně opraveny až poté.

Článek ve formátu PDF :

Prameny:

• ¹  YouTube, Alexander Atamanov, robot Patrol dog, 21. března 2022
• ^{2,  3,  4}  The Verge 21. července 2022
• ⁵  Twitter, James Melville 21. července 2022
• ^6,  12  The Verge 14. října 2021
• ⁷  SWORD Defense Systems, SPUR
• ^{8,  9,  10}  Ghost Robotics, Vision 60
• ¹¹  Ghost Robotics, řešení
• ^{13,  14,  15}  Boston Dynamics, Etika
• ¹⁶  Kongresová výzkumná služba 1. prosince 2020
• ¹⁷  History.com, Průmyslová revoluce
• ¹⁸  Světové ekonomické fórum 14. ledna 2016
• ¹⁹  YouTube, Skeptici pravdy, Nový normální dokument 13. ledna 2021
• ²⁰  The Verge 1. května 2019
• ²¹  WEF 21. října 2020
• ^22,  24  Science Daily 21. března 2021
• ²³  JAMA Network Otevřeno 4. března 2021
• ²⁵  Stop Killer Robots, O nás
• ²⁶  Zastavte zabijácké roboty
• ²⁷  Daily Mail 11. června 2022
• ²⁸  Haaretz 18. září 2021
• ^29,  30  The Verge 3. června 2021