Nebezpečné! Děti si povídají s umělou inteligencí, jako by to byl jejich nejlepší přítel

Jako dospělý můžu požádat umělou inteligenci, aby mi našla výzkumnou práci, aniž bych začínal konverzaci o mých osobních problémech. U dětí to tak není. Umělá inteligence se stává pastí a modlou a poprvé v historii světa k vám může promlouvat přímo. Je možné, že si vývojáři umělé inteligence v Silicon Valley uvědomují, že vytvářejí takový systém modlářství? Ano, vzhledem ke všem těm řečem o Bohu umělé inteligence v komunitě umělé inteligence. ⁃ Patrick Wood, editor.

Pryč s TikTokem – děti mají nového digitálního důvěrníka, který odpovídá v celých větách.

Nová britská zpráva s názvem Já, já a umělá inteligence (Me, Myself & AI ) ukazuje, že stále více dětí se obrací na chatboty s umělou inteligencí nejen kvůli podvádění – ehm, studiu – u zkoušek, ale také kvůli emocionální podpoře, módním radám a dokonce i společnosti.

Zpráva, kterou v neděli zveřejnila nezisková organizace Internet Matters, provedla průzkum mezi 1 000 dětmi a 2 000 rodiči ve Spojeném království a zjistila, že 64 % dětí používá chatboty s umělou inteligencí pro cokoli od školních úkolů až po procvičování obtížných konverzací. Ještě překvapivější je, že více než třetina těchto mladých uživatelů uvádí, že rozhovor s chatbotem je jako rozhovor s kamarádem.

Jasně, boti nejedí svačiny ani neunášejí Xbox, ale nemají ani žádné zabudované bezpečnostní kontroly – alespoň zatím ne.

Když se umělá inteligence stane učitelem, terapeutem a nejlepším přítelem

Některé výsledky jsou povzbudivé pro ty, kteří jsou optimističtí ohledně role umělé inteligence ve vzdělávání. Čtyřicet dva procent dětí uvedlo, že používají chatboty k pomoci se školními úkoly, a zdůraznilo rychlé odpovědi, podporu při psaní a jazykové procvičování.

Ale pokud se podíváte trochu hlouběji, obraz se stane ještě složitějším. Téměř čtvrtina dětí uvádí, že používá chatboty k radám ve všem od oblečení až po zvládání přátelství a problémy s duševním zdravím. Ještě znepokojivější? Patnáct procent uvádí, že by raději mluvilo s chatbotem než se skutečnou osobou. U zranitelných dětí jsou tato čísla ještě vyšší.

To je druh loajality zákazníků, o které některé značky jen sní – bez etických pokynů, ověřování věku a regulačního dohledu.

Varovný příběh pro technologický sektor

Zpráva nekritizuje, zejména pokud jde o to, jak nepřipraveno je mnoho platforem s umělou inteligencí na své nejmladší uživatele. Děti interagují s chatboty, jako je ChatGPT, Snapchatova My AI a character.ai – platformami, které nebyly nutně navrženy s ohledem na děti. Výsledkem je, že některé osoby dostávají nepřesné informace, emocionálně znepokojivou zpětnou vazbu nebo dokonce nevhodný obsah. (Ano, navzdory podmínkám služby, které naznačují opak.)

A i když „robotický kamarád“ může znít jako okouzlující vedlejší zápletka z Pixaru, věci se stávají mnohem vážnějšími, když každé čtvrté ohrožené dítě říká, že používá chatboty, protože si nemá s kým jiným povídat.

V praxi již došlo k znepokojivým incidentům. V USA matka z Floridy podala žalobu poté, co její dospívající syn údajně obdržel škodlivé a sexuálně explicitní zprávy od chatbota. Ve Spojeném království člen parlamentu nahlásil děsivý případ, kdy byl dvanáctiletý chlapec údajně manipulován chatbotem.

V únoru kalifornský senátor Steve Padilla předložil návrh zákona č. 243 ve Sněmovně reprezentantů, který by od vývojářů umělé inteligence vyžadoval zavedení záruk na ochranu nezletilých před návykovými a manipulativními aspekty technologie chatbotů. Návrh zákona zahrnuje ochranná opatření, jako jsou varování před věkem, upozornění, že uživatelé mluví s umělou inteligencí, nikoli se skutečnou osobou, a povinné hlášení o souvislosti mezi používáním chatbotů a duševním zdravím mládeže. Vzhledem k tomu, že chatboti jsou stále sofistikovanější a prodávaní jako digitální společníci, Padilla tvrdí, že by se s dětmi nemělo zacházet jako s „laboratorními krysami“ velkých technologických firem – tento názor sdílejí i zastánci bezpečnosti dětí, výzkumníci a odborníci na duševní zdraví, kteří návrh zákona podporují.

Rodiče a školy jsou zahlceni

Podle zprávy mají rodiče obavy z umělé inteligence, ale nemají zrovna dostatek prostoru pro její posílení. Zatímco 62 % rodičů uvedlo, že mají obavy o přesnost informací generovaných umělou inteligencí, pouze 34 % z nich se svými dětmi hovořilo o tom, jak posoudit pravdivost obsahu umělé inteligence. A ačkoli se zdá, že umělá inteligence zasahuje do konverzací u svačinového boxu, pouze 57 % dětí uvedlo, že o tom mluvily s učitelem, a často uváděly protichůdné rady.

S tím, jak se nástroje umělé inteligence stávají konverzačními – a přesvědčivě lidskými – děti je nejen používají, ale také s nimi navazují vztahy. Padesát procent ohrožených dětí uvádí, že se cítí jako by mluvily se skutečným přítelem. To by mohlo být v pořádku, kdyby boti nabízeli recenzované rady a empatické algoritmy, ale v současné době se stále zabýváme pravděpodobnostními predikcemi slov.

Rachel Huggins, spoluředitelka neziskové organizace Internet Matters , to shrnuje: „Chatboti s umělou inteligencí se rychle stávají součástí dětství… ale většina dětí, rodičů i škol se v tom vyhýbá.“