Začíná to být nebezpečné! Nový systém umělé inteligence, který mění myšlenky na text!
Vědci vyvinuli systém umělé inteligence, který dokáže číst myšlenky lidí měřením mozkové aktivity a převáděním na text – vývoj, který vyvolává obavy o soukromí a svobodu.
Studie publikovaná 1. května v časopise Nature Neuroscience používá model Transformer podobný tomu, který pohání chatbota ChatGPT OpenAI k dešifrování myslí lidí, uvádí Epoch Times .
Model Transformer je neuronová síť, která se učí kontextu, a tedy i významu. Testované osoby nejprve celé hodiny poslouchaly podcasty a zaznamenávala se jejich mozková aktivita. Vědci poté pomocí těchto nahrávek trénovali dekodér. Později subjekty slyšely nový příběh nebo si představovaly vyprávění příběhu, načež byl dekodér schopen vygenerovat odpovídající text analýzou mozkové aktivity.
Výzkumníci trénovali dekodéry na tři témata. „Protože náš dekodér reprezentuje jazyk spíše z hlediska sémantických rysů než motorických a sluchových rysů, měly by předpovědi dekodéru zachytit význam podnětů,“ uvádí studie. „Výsledky ukazují, že dekódované slovní sekvence odrážejí nejen význam podnětů, ale často i přesná slova a fráze.
Takové technologie vyvolávají obavy o soukromí a ztrátu svobody.
V rozhovoru ze 17. března pro MIT Technology Review varovala Nita Farahanyová, právní etika z Duke University v Durhamu v Severní Karolíně, že shromažďování mozkových dat by mohly vlády a další mocnosti využít k nekalým účelům.
„Autoritářská vláda, která má přístup [k této technologii], by ji mohla použít například k tomu, aby se pokusila identifikovat lidi, kteří jsou politicky neposlušní. To je docela rychlé a vážné použití dat pro škodlivé účely,“ řekl Farahany.
Na pracovišti lze technologii využít k „dehumanizaci“ zaměstnanců, kteří mohou být nuceni podstupovat neurologické sledování.
„Problém nastává, když je technologie používána jako povinný nástroj a zaměstnavatelé ji využívají ke shromažďování dat pro rozhodování o přijímání, propouštění a povýšení. Proměňují to v jakési skóre produktivity. Nahlodává důvěru…a může dehumanizovat pracoviště.“
Na rozdíl od jiných systémů dekódování řeči, které jsou v současné době ve vývoji, je technologie vyvinutá výzkumníky ve studii z 1. května neinvazivní a nevyžaduje chirurgické transplantace u subjektů.
Alex Huth, odborný asistent neurovědy a informatiky na UT Austin, který studii vedl, označil výsledky za „skutečný skok vpřed“ v neinvazivních měřeních mozku.
„Umožnili jsme modelu nepřetržitě dekódovat řeč po dlouhou dobu pomocí komplikovaných nápadů,“ řekl Huth podle tiskové zprávy. Dešifrované výsledky nejsou přepisy slovo od slova. Místo toho zachycují podstatu toho, co si člověk myslí.
Jerry Tang, jeden ze spoluautorů studie, se zároveň domnívá, že zatímco je tato technologie stále v plenkách, vlády by měly podniknout kroky k ochraně lidí a jejich soukromí. „Je také nutné regulovat používání těchto zařízení“.
