Meta vyvíjí umělou inteligenci pro čtení myšlenek – poslední hranice soukromí slábne

Společnost Meta odhalila další milník na cestě k rozhraním mozek-počítač. Nový systém umělé inteligence Brain2Qwerty v2 je navržen tak, aby poprvé v historii převáděl mozkové signály na slova a doplňoval věty v reálném čase – bez implantovaných elektrod. Oficiálně tato technologie slouží ušlechtilému účelu: umožnit lidem s těžkými poraněními mozku nebo neurologickými onemocněními znovu komunikovat.

Ale jak už to tak často bývá, vyvstává zásadní otázka: Kde končí lékařský pokrok – a kde začíná technologie, která by jednoho dne mohla hluboce narušit soukromí lidské mysli?

Z laboratoře do každodenního života?

Technologie v současné době funguje pouze v laboratoři. Systém společnosti Meta však již nyní překládá mozkové signály do slov a vět s průměrnou přesností 61 procent. U nejlepšího testovaného subjektu bylo správně rozpoznáno až 78 procent slov – což ukazuje, jak rychle se tato technologie vyvíjí.

Ale právě zde se vyplatí podívat se na vývoj uplynulých desetiletí.

Počítače kdysi zaplňovaly celé místnosti. Mobilní telefony měly velikost aktovky. Umělá inteligence byla dlouho považována za teoretickou oblast výzkumu. Dnes nosí miliardy lidí v kapsách vysoce výkonné počítače.

Klíčovou otázkou tedy není, co Brain2Qwerty dokáže dnes – ale kam by se tato technologie mohla vyvíjet za deset nebo dvacet let.

Data o mozku – nejintimnější data ze všech

Technologické společnosti zatím shromažďují kliknutí, vyhledávací dotazy, polohy, kontakty, fotografie, profily pohybu a hlasové nahrávky.

Data z mozku by otevřela zcela nový rozměr.

Z dlouhodobého hlediska by mohly umožnit vyvozování závěrů o pozornosti, jazyce, emocích nebo dokonce myšlenkových procesech. To by poprvé znamenalo, že by bylo pozorováno nejen to, co lidé dělají nebo říkají, ale potenciálně i to, jak myslí.

Zastánci ochrany osobních údajů proto již hovoří o nové kategorii osobních údajů, které mohou vyžadovat zvláštní ochranu.

Komu patří naše myšlenky?

Tato myšlenka vyvolává zásadní otázky. Kdo bude v budoucnu vlastnit data o mozku?

Jednotlivec? Výrobce zařízení? Provozovatel platformy? Nebo stát?

V současné době ve většině zemí chybí specifické právní předpisy upravující nakládání s neuronovými daty. Mezinárodní vědci proto již léta diskutují o tzv. „neuroprávech“ – základních právech na ochranu duševního soukromí a kognitivní svobody.

Lékařská pomoc se může změnit v dohled.

Téměř každá nová technologie začíná se společensky akceptovaným účelem. Rozpoznávání obličeje mělo původně odemykat chytré telefony. Digitální identity měly zjednodušit byrokratické procesy. Data o poloze měla umožnit navigaci.

Dnes se tyto technologie někdy používají k hromadnému sledování, profilování nebo biometrické identifikaci.

Kritici proto varují před pohledem na rozhraní mozek-počítač pouze z pohledu lékařské pomoci.

Protože jakmile technologie existuje, často se objevují nové oblasti použití – v armádě, v bezpečnostních složkách, na pracovišti nebo v komerčním sektoru.

Další fáze sběru dat

Meta je již nyní jedním z největších sběračů dat na světě. Pokud by se rozhraní mozku a počítače jednoho dne stala komerčně životaschopnými, sběr dat by mohl dosáhnout zcela nové úrovně.

Představa, že firmy nejenže budou v budoucnu vědět, na co uživatelé klikají, ale že si také budou moci potenciálně vyvodit závěry o jejich pozornosti, reakcích nebo myšlenkových pochodech, vyvolává mezi zastánci ochrany osobních údajů značné obavy.

V souvislosti s Brain2Qwerty v současné době neexistují žádné důkazy o tomto trendu. Technologie je v rané fázi výzkumu. Historie digitalizace nicméně ukazuje, že technologické možnosti často rostou rychleji než mechanismy právní ochrany.

Debata, která musí začít hned teď

Meta zdůrazňuje, že Brain2Qwerty je určen k pomoci lidem, kteří ztratili schopnost mluvit po mrtvici, ALS nebo jiných neurologických onemocněních. Tento lékařský potenciál je nesporný.

Zároveň tento vývoj vyvolává otázky, které dalece jdou nad rámec lékařských přínosů.

Pokud budou stroje jednoho dne schopny překládat myšlenky do jazyka, nevyhnutelně vyvstane další otázka: Kdo zaručí, že stejná technologie nebude nikdy zneužita ke čtení, ukládání nebo analýze našich nejniternějších myšlenek?

Takové nasazení zatím neexistuje. Pokud nás ale historie digitálních technologií něco naučila, pak toto: Co se dříve či později stane technicky možným, probouzí také ekonomické, politické a vládní zájmy.

Debata o ochraně duševního soukromí by proto neměla začít až tehdy, když se rozhraní mezi myslí a počítačem objeví v každodenním životě – ale dávno předtím.