Rodiče zuří kvůli plánu školy trvale natáčet jejich děti za účelem výcviku umělé inteligence.

„Jsem hluboce znepokojen myšlenkou, že obrázek mého dítěte je používán v neznámých nástrojích umělé inteligence a jak by to mohlo být zneužito.“

Plánovaná studie Washingtonské univerzity by vyžadovala, aby učitelé předškolních zařízení nosili kamery, které by nahrávaly vše ve třídě z pohledu první osoby – včetně malých dětí, které učili – a poté by tyto záběry použili k trénování modelů umělé inteligence. Rodiče, kteří by vznesli námitky, by museli aktivně odmítnout. To znamenalo, že pokud by vědci neobdrželi formální „ne“, děti by se automaticky staly součástí experimentu.

„S vaším svolením může učitel vašeho dítěte na prvním stupni nosit malou kameru, která zachycuje přibližně učitelův pohled z první osoby, a/nebo můžeme do třídy umístit trvale instalovanou videokameru,“ uvádí se v dokumentu, který byl distribuován rodičům a který získala agentura 404 Media v nové investigativní zprávě . „Tato videa budou zachycovat pouze běžné interakce mezi učiteli a dětmi během běžných aktivit ve třídě.“

Rodiče však udělali mnohem víc než jen odmítli. Vzbouřili se – a odpor byl tak prudký, že podle 404 Media Washingtonská univerzita experiment zcela zrušila.

Dokumenty rozdané rodičům používaly poněkud vágní formulace a ponechávaly klíčové otázky nezodpovězené. Uváděly, že materiál bude použit k „vývoji a vyhodnocení modelů umělé inteligence pro posouzení kvality interakcí ve třídě“ a že „video data by mohla být zpracovávána pomocí cloudových služeb umělé inteligence“. Nevysvětlily však, o které modely umělé inteligence nebo o které společnosti umělé inteligence by se mělo jednat.

Zůstávala řada citlivých otázek. Co by se stalo s dětmi rodičů, kteří by odmítli souhlas? Budou na záběrech rozmazané pouze jejich tváře? Jak by to mohlo realisticky fungovat? Dokumenty pouze uváděly, že vědci budou cenzurovat tváře a jména, „kdykoli to bude možné“ – což však znamenalo, že děti by byly i přesto natočeny.

Tyto nejistoty rodiče nesmírně znepokojily.

„Znepokojuje mě představa, že obrázek mého dítěte je používán v neznámých nástrojích umělé inteligence a jak by to mohlo být zneužito,“ řekl televizi 404 Media rodič, který si přál zůstat v anonymitě.

„Obzvláště mě znepokojovalo, zda rodiny vůbec mohou dát informovaný souhlas,“ dodala. „I jako rodilá mluvčí angličtiny mě vágní formulace informačního listu zanechala s záplavou nezodpovězených otázek. Mnoho rodin v naší škole jsou migranti a ne rodilí mluvčí angličtiny, ale formuláře nebyly poskytnuty v jejich rodných jazycích.“

Odborníci na vzdělávání rovněž vyjádřili značné obavy ohledně formulací v dokumentech.

„S kým by mohla být data sdílena? Jak dlouho budou uložena? Kdo financuje výzkum? To jsou otázky, na které jsem chtěla znát odpovědi – a tyto odpovědi by mohly existovat,“ řekla televizi 404 Media Faith Boningerová, zástupkyně ředitelky Národního centra pro vzdělávací politiku.

Washingtonská univerzita nakonec oznámila, že projekt pozastavuje kvůli odporu rodičů.

„Vzhledem k první zpětné vazbě od rodičů jsme studii ukončili a již nehledáme účastníky na žádném místě,“ řekl mluvčí serveru 404 Media a dodal, že „není neobvyklé ukončit studii v jejích raných fázích po obdržení zpětné vazby od komunitních partnerů“.

Zrušená studie představuje nejnovější fázi pokroku umělé inteligence ve vzdělávání. Společnosti jako OpenAI, Anthropic a Microsoft investují miliony do učitelských asociací a nabízejí školení o tom, jak používat své nástroje umělé inteligence. Univerzity spolupracují se společnostmi zabývajícími se umělou inteligencí, aby studentům poskytly bezplatný přístup k systémům umělé inteligence – v podstatě tichý souhlas s tím, že studenti se již spoléhají na umělou inteligenci při psaní esejů a plnění úkolů – nebo jinými slovy při podvádění.

A s tímto masivním úsilím o zavedení umělé inteligence do učeben zjevně roste i potřeba dat pro trénování specializovaných modelů.

Skutečnost, že studie byla zastavena, také ukazuje, jak silně nyní rodiče podporují rostoucí protihnutí proti umělé inteligenci. Například plánovaná střední škola ovládaná umělou inteligencí v New Yorku byla zrušena poté, co rodiče minulý měsíc protestovali před radnicí.

Od Franka Landymora