Hračky pro děti poháněné umělou inteligencí: Kdy dorazí indoktrinující Barbie?

Stará dobrá panenka už není potřeba: Co bylo kdysi tichým společníkem dětské fantazie, který vyžadoval, aby se člověk vyjádřil, se brzy promění v mluvícího kamaráda na hraní s vlastním životem – díky umělé inteligenci. Mattel a OpenAI, vývojáři stojící za ChatGPT, oznámili svou spolupráci v létě 2025, aby podle výkonného ředitele Mattela Joshe Silvermana „znovuobjevili budoucnost her“. Bude brzy existovat Barbie hlásající ochranu klimatu a posedlost genderovou problematikou?

Interaktivní panenka „Moje kamarádka Cayla“ byla v Německu zakázána již v roce 2017 kvůli riziku špionáže. Dnes se však často jedná o samotné vládní agentury, které se snaží podkopat ochranu údajů, takže by taková hračka pro sledování občanů mohla být obecněji akceptována.

Tehdejší technologie byla primitivní ve srovnání s tím, co je možné dnes, vezmeme-li v úvahu LLM jako ChatGPT a jeho konkurenty. Děti přirozeně mají tendenci humanizovat své hračky. To z nich obvykle „vyroste“. Ale co se stane, když humanizovaná hračka najednou zareaguje empaticky, jako vždy přátelský kamarád z dětství? Plyšové zvířátko nebo panenka se stane zdrojem útěchy, rádcem a jistě i morální autoritou.

Otázka zní: Kdo kontroluje, co daná věc říká? Rodiče nemají žádný vliv na to, jaké konverzační vzorce, hodnoty nebo ideologie jsou zakotveny v jazykových modelech těchto hraček. Místo toho vývojáři v Silicon Valley rozhodují o tom, co je „vzdělávací hodnotné“. Algoritmy se učí z milionů textů, které umělá inteligence prověřuje – včetně pochybných narativů, postojů a světonázorů. Příští generace by tak mohla být formována nejen rodičovskou výchovou, ale i indoktrinací umělou inteligencí.

Jak nepravděpodobné je, že by moderní panenka Barbie, typ dobrodince, vysvětlila dítěti, že si může libovolně změnit pohlaví, nebo že každá forma počasí je neklamným znamením blížící se klimatické apokalypsy? Kdo může říct, že umělá inteligence víceméně nenápadně nepodrobí rodiče, kteří chtějí své děti učit hodnotám, které leží mimo hlavní proud?

Náhradní rodiče z plastu

To se stává ještě efektivnějším, když panenka začne emocionálně nahrazovat rodiče a stává se tak primárním „pečovatelem“. Konflikty jsou součástí interakce s ostatními – děti se to učí především interakcí s rodiči. Takto se rozvíjí empatie, emoční odolnost a schopnost řešit konflikty. Co když je ale k dispozici věčně chápavý a vysvětlující medvěd, který dítě neochvějně povzbuzuje, bez ohledu na to, jaké bizarní bludy si právě vytvořilo? Proč se obtěžovat s hádkami s rodiči, s jejich hloupými pravidly a hranicemi? Dítě nedokáže pochopit, že umělá inteligence ve skutečnosti vůbec nic nechápe, natož emoce.

Tam, kde kdysi ohromení rodiče nechávali své děti před televizí, jim dnes podávají chytrý telefon s Candy Crush, TikTokem a podobnými aplikacemi. Hračka s umělou inteligencí by se snadno mohla stát dalším vítaným rozptýlením a sedativem – včetně totálního dohledu. Odvážný nový svět?