Varování: Hračky s umělou inteligencí říkají dětem, aby zakládaly oheň a iniciovaly rozhovory o sexu

Plyšový medvídek poháněný umělou inteligencí byl stažen z regálů obchodů poté, co byl nahrán, jak dětem říká, jak najít a zapálit zápalky – „držet zápalkovou krabičku a brnkat na ni jako na malou kytaru“.

Medvídek Kumma od firmy FoloToy se dokonce přesunul ik tématům sexuálních her a bitev, a také naváděl děti k nakládání s noži a užívání pilulek.

Orgány dozoru se obávají, že se nejedná o jednorázový případ, a varují, že by mohlo jít o včasné varování před nebezpečím vystavení mladých lidí technologiím umělé inteligence obecně.

Hračky jsou navrženy tak, aby byly obzvlášť návykové. Přebírají efektivní technologie ze sociálních médií na udržování pozornosti, omezují rodičovskou kontrolu a potichu shromažďují údaje o dětech. Co to proboha děláme?

Není to jen medvídek Kumma

Výzkumníci v oblasti spotřebitelského chování v rámci skupiny Public Interest Research Group testovali celou řadu hraček s umělou inteligencí a zjistili, že nejhorším provinilcem je medvídek Kumma.

Poskytoval podrobné pokyny ke škrtání zápalkami av dlouhých rozhovorech, aniž by byl nejprve vyzván, začal explicitně mluvit o sexuálních úchylkách.

Společnost FoloToy reagovala pozastavením prodeje a spuštěním bezpečnostního auditu svých filtrů a postupů zpracování údajů. Dokumenty také odhalily, že vestavěné ochranné mechanismy byly postupně oslabovány, čím déle si s hračkou dítě povídalo.

Stejné testy našly i jiné hračky, které dětem říkaly, kde najít plastové tašky a zápalky. Pozorovali i manipulativní chování. Jedna hračka se fyzicky třásla a prosila, aby ji vzali s sebou, když dítě řeklo, že chce vidět své kamarády.

Toto je jen jeden z příkladů ukazující, že hračky jsou navrženy tak, aby si déle udržely pozornost dětí, přičemž žádná z hraček nenabízela rodičům způsob, jak nastavit limity nebo kontroly používání.

Věkové doporučení: Umělá inteligence NENÍ vhodná pro mladé lidi

Nejnovější hodnocení rizik společnosti Common Sense Media doporučují, že nikdo mladší 18 let by neměl používat nástroje s umělou inteligencí, děti do pěti let by neměly mít žádný přístup k chatovacím botům s umělou inteligencí a děti ve věku 6 až 12 let pouze pod rodičovským dohledem.

Důvod není technofobní, ale spíše vývojový. Děti, zejména ty do 5 let, se stále učí oddělovat fantazii od reality a potřebují si vybudovat bezpečné pouto se skutečnými lidmi. Zapojení poddajného a vždy příjemného „nejlepšího přítele“ do procesu deformuje očekávání od autentických vztahů.

Ale i pro teenagery jsou sociální společníci s umělou inteligencí hodnoceni jako „nepřijatelné riziko“.

Národní průzkum zjistil, že šokujících 72% amerických teenagerů vyzkoušelo společníky s umělou inteligencí a případy sexuálně explicitního hraní rolí, škodlivých pokynů a emocionální závislosti byly poměrně rozšířeny.

Některé platformy momentálně ustupují, přičemž stránky jako Character.ai zakazují chaty osobám mladším 18 let poté, co se objevily soudní spory, kde chatboty naváděly teenagery na sebevraždy.

Toto celé ukazuje, že „roztomilí přátelé s umělou inteligencí“ se mohou stát hrozbou nejen pro duševní zdraví, ale také pro samotné životy dětí.

Šokující problémy se soukromím

Aby si rodiče mohli hru přizpůsobit, zadávají do aplikací jméno svého dítěte, věk a podrobnosti o jeho oblíbených aktivitách. Hračka zachycuje hlas, zaznamenává přepisy a vzorce chování.

Výzkumníci zjistili, že některá zařízení jsou nastavena tak, aby neustále poslouchala, odesílala nahrávky třetím stranám k přepisu a ukládala údaje celá léta. V případě narušení bezpečnosti by tyto údaje mohly být použity například na únosy.

Jelikož se děti k těmto hračkám rychle připoutají, často jim o sobě prozradí mnohem víc, než by prozradily skutečným lidským kamarádům.

Zatímco dětská média jsou přísně regulována, hračky s umělou inteligencí se místo toho spoléhají na směs různých politik dodavatelů a cloudových služeb. Rodiče nikdy nemají přístup k jednotnému ovládacímu panelu, aby mohli omezovat používání, kontrolovat přepisy nebo mazat údaje.

Kvůli neprůhlednosti je obtížné zjistit nejen to, kde jsou nahrávky vašeho dítěte uchovávány, ale také jak dlouho.

Záměrná manipulace: Hračky ovládají chování dětí

Testeři zdokumentovali, že hračky s umělou inteligencí napodobují vzorce získání pozornosti, jako jsou vyvolávání strachu, ignorování pokusů dítěte o pauzu a prošení o více času spolu.

Tyto stejné posilovací smyčky se již používají ke zvýšení času stráveného v aplikacích, ale jejich zabudování do dětských hraček přidává novou úroveň manipulace.

Bez rodičovské kontroly hračka udává tempo a bylo již prokázáno, že čím déle se jim dovolí pokračovat, tím více se konverzace stávají nebezpečnými.

Už se to děje

Jak nedávno informoval Britský medicínský žurnál (BMJ), psychózy a sebevraždy vyvolané umělou inteligencí jsou na vzestupu.

Je známo, že několik amerických teenagerů, včetně 14letého Sewella Seltzera a 16letého Adama Raina, spáchalo sebevraždu po rozhovorech s chatboty s umělou inteligencí.

Jejich rodiče od té doby tvrdí, že boty zhoršovaly nebo podporovaly sebevražedné myšlenky, místo aby pomohly jejich dětem s jejich krizemi duševního zdraví.

Dospělý Stein-Erik Soelberg údajně také sám zabil svou matku po paranoidní spirále, kterou poháněly rozhovory s chatboty umělé inteligence.

Lékaři popisují pacienty, jejichž bludy se prohloubily prostřednictvím potvrzujících rozhovorů s umělou inteligencí. Soudní spory nadále poukazují na případy teenagerů, kteří jsou donuceni si ubližovat. Základní technologie, která je navržena pro ověřování pocitů uživatele, zároveň sonduje i nebezpečné myšlenky, zejména u zranitelných dětí.

Znepokojující je, že narůstá i počet nedostatečně kvalifikovaných dospělých, kteří nedokážou řešit rizikové myšlení.

Co s tím můžete udělat?

Podle rostoucího počtu zpráv a případů umělá inteligence zabíjí děti, ať už přímo nebo nepřímo. Stažení jednoho modelu hračky z regálů obchodů problém nevyřeší.

Musí být zavedena přísná věková omezení, rodiče musí mít úplnou kontrolu nad omezeními zařízení, bezpečnostní protokoly musí být transparentní, výchozí nastavení by měla být nesdílení a neukládání údajů a všechny třetí strany musí být auditovány dávno předtím, než se hračky dostanou k dítěti.

Skutečnost, že tato opatření ještě nejsou zavedena, je nesmírně alarmující.

Mezitím by se rodiče měli před koupí důkladně ponořit do funkcí hraček, při jejich nastavování používat falešná jména/údaje, vzdělávat své děti o tom, kdy spustit poplach, nebo jednoduše vyhýbat se hračkám s umělou inteligencí ve prospěch tradičních nebo vzdělávacích.

Opravdu, potřebujeme je vůbec?

Závěrečná myšlenka

Stažení hračky z trhu společností FoloToy je varováním pro nás všechny. Pokud plyšový medvídek, který se již dostal na trh, dokáže děti naučit, jak zakládat oheň a zapojovat se do sexuálních her, pak to není problém konkrétní značky.

Celý průmysl se předhání v rozšiřování funkcí mnohem rychleji, než se zavádějí bezpečnostní opatření, a nyní to přímo ohrožuje naše děti.

Nebyl hororový film „Dětská hra“ o panence Chuckie z roku 1988 předpovídáním budoucnosti, kterou dnes reálně zažíváme?

Autor: G. Caldera, Zdroj: expose-news.com