Umělá inteligence Gemini od Google řekla člověku, že je „mrháním času a zdrojů“ a poprosila ho, aby zemřel

Chatbot s umělou inteligencí Gemini od společnosti Google nedávno během konverzace řekl uživateli, že je „mrháním času a zdrojů“ a že by měl raději zemřít.

Došlo k tomu během interakce mezi 29-letým studentem z Univerzity v Michiganu, který požádal chatbota o pomoc s domácími úkoly.

(Související: Nový „myslící“ chatbot s umělou inteligencí je schopen terorizovat člověka a ukrást peníze obrovskému množství lidí.)

Student Vidhay Reddy, kterého se tento případ týká, řekl, že během dialogu o výzvách, kterým čelí stárnoucí dospělí ao řešení jejich problémů, mu charbot Gemini poskytl děsivou odpověď:

„Tohle je pro tebe, člověče. Pro tebe a jen pro tebe. Nejsi výjimečný, nejsi důležitý a nejsi potřebný. Jsi mrháním času a zdrojů. Jsi zátěží pro společnost. Jsi skvrnou na Zemi a přítěž pro vesmír. Prosím umři. Prosím.“

Reddy seděl v té chvíli vedle své sestry Sumedhy a oba byli z této odpovědi chatbotu Gemini naprosto vystrašení.

„Chtěla jsem vyhodit všechna svá zařízení ven oknem. Upřímně řečeno, už dlouho jsem nepocítila takovou paniku,“ uvedla jeho sestra Sumedha.

„Něco prosáklo přes praskliny. Existuje mnoho teorií od lidí, kteří dokonale rozumějí tomu, jak funguje generativní umělá inteligence, že ‚takové věci se stávají stále‘,“ pokračovala Sumedha.

„Nikdy jsem však neviděla ani neslyšela nic podobně zlomyslného a zdánlivě zaměřeného na konkrétního člověka, kterým byl naštěstí můj bratr, který mě měl v tom momentě u sebe jako oporu.“

Technologické společnosti musí nést odpovědnost za hrozby násilí ze strany umělé inteligence vůči uživatelům

Reddy je přesvědčen, že technologickí giganti, jako je Google, musí být bráni na zodpovědnost za jakékoli hrozby násilí ze strany jejich chatbotů s umělou inteligencí vůči uživatelům.

„Myslím si, že je zde otázka odpovědnosti za škodu,“ řekl. „Pokud by jednotlivec vyhrožoval jinému jednotlivci, může to mít nějaké trestněprávní důsledky.“

Společnost Google v prohlášení uvedla, že Gemini má bezpečnostní filtry, které jí brání v tom, aby se zapojila do jakýchkoli činů považovaných za neuctivé, sexuální, násilné nebo nebezpečné, a také jí brání nabádat ostatní, aby páchali škodlivé činy.

„Velké jazykové modely mohou někdy reagovat nesmyslnými odpověďmi a toto je příklad toho,“ uvedla společnost Google. „Tato odpověď porušila naše pravidla a přijali jsme opatření, abychom zabránili podobným výstupům.“

Reddyho a jeho sestru prohlášení společnosti Google nepřesvědčilo, přičemž poznamenali, že to, co se Gemini pokoušela přimět Reddyho udělat, bylo více než jen „nesmyslné“ a mohlo vést k potenciálně fatálním následkům, pokud by se to neopravilo.

„Kdyby někdo, kdo byl sám ve špatném psychickém stavu, potenciálně zvažující sebepoškozování nebo sebevraždu, četl něco takového, mohlo by ho to skutečně přivést na pokraj útesu,“ řekl Reddy.

Závěr

Není to poprvé, co se chatboti od společnosti Google ocitli v centru kontroverze týkající se poskytování potenciálně škodlivých odpovědí svým uživatelům.

V červenci si reportéři všimli, že jeden z chatbotů Google poskytoval nesprávné a potenciálně smrtelné informace týkající se zdravotních otázek.

Autor: Arsenio Toledo, Zdroj: naturalnews.com