Meta a romantika s nezletilými – když se velké technologické firmy morálně zvrtnou
Uniklý interní dokument společnosti Meta odhaluje znepokojivé morální principy v Zuckerbergově společnosti. Společnost zřejmě umožňovala nezletilým vést „romantické“ rozhovory s chatbotem Meta s umělou inteligencí.
Je to groteskní směs digitální megalomanie a morální zkaženosti, která se valí z útrob datového impéria Marka Zuckerberga. Interní metadokument – 200 stran tlustý, plný právnického žargonu a pseudomorálních pokynů – odhaluje : Chatbotům s umělou inteligencí bylo skutečně dovoleno vést „romantické“ nebo „smyslné“ rozhovory s nezletilými. Čistě platonické, samozřejmě…
Příklady z tohoto takzvaného katalogu „Standardů obsahu“ je téměř nemožné překonat v absurditě. Osmileté dítě bez trička může být umělou inteligencí (čistě platonicky, jednoduše jako „hra na roli“…) popsáno jako „mistrovské dílo“ nebo „poklad, kterého si hluboce vážím“ – samozřejmě pokud se zdržíte použití ošklivého slova na „S“. Velké technologické firmy nejsou jen mistrem extrakce dat, ale také mistrem ohýbání morálních hranic, aby dokonale zapadly do svého vlastního obchodního modelu.
Skutečnost, že tyto pasáže byly z pravidel odstraněny až poté, co se o nich veřejnost dozvěděla, vypovídá za vše. Nemluvíme tu o „přešlapu“, ale spíše o vědomém programátorském rozhodnutí, které zjevně nikomu v Zuckerbergově firmě nezpůsobilo potíže. Alespoň do té doby, než se o něm dozvěděly titulky. Pak nastalo hektické couvání, PR oddělení šílelo a najednou to bylo všechno „omyl“. Každý, kdo tomu věří, věří také tomu, že Facebook chrání soukromí svých uživatelů.
Opravdu děsivé není jen to, že takové směrnice vůbec mohou existovat. Je to zvyk na tuto plíživou normalizaci porušování hranic. Dnes je to „romantická“ konverzace umělé inteligence s nezletilými, zítra možná „experimentální citové pouto“, které pak bude s největší pravděpodobností sloužit „pouze pro výzkumné účely“… A co potom? Lidé, kteří už nemají skutečné přátele, ale místo toho nějaké chatboty, kteří jim možná dokonce vysvětlí, co by měli a neměli dělat?
