Michael Warden: Umělá inteligence – osvěžující pravda

Je samotná umělá inteligence konečným hlubokým podvodem?

Alternativní název tohoto příspěvku mohl být: „Co se mi na AI líbí nejvíc“ – a odpověď by byla: Líbí se mi, že je to upřímně pojmenované. Uměle. Není to skutečná inteligence. Pravděpodobně zde kážu přesvědčeným, protože téměř každý, s kým mluvím – bez ohledu na věk nebo původ – věří, že stroj nemůže být skutečně inteligentní. Přesto stojí za to se na to podívat hlouběji – protože AI je bezesporu velké téma a je důležité porozumět tomu, čím se zabýváme – a čím se nezabýváme.

Ti, kteří mají co získat – přeháněním, vyvoláváním strachu nebo zásadně misantropickým postojem – nadále šíří poselství, že „počítače budou brzy mnohem inteligentnější než lidé“, že „mozek je jen počítač z masa“ (jak řekl zesnulý počítačový vědec z MIT Marvin Minsky) nebo že AI způsobí, že většinu lidstva „zastará“ (Nosval Harari).

Pokud posloucháte mediální humbuk, možná si myslíte, že „experti“ se shodují, že stroje jsou lepší než lidé a jsou na cestě k nepředstavitelné inteligenci – dokonce i vědomí.

Jsme tedy my, kteří pochybujeme o pravosti inteligence AI, obětí iluze? Zřejmě ne. Ve skutečnosti máme na své straně řadu renomovaných znaleckých posudků.

ELIZA – první „AI“

Již v 70. letech minulého století vědec z MIT Joseph Weizenbaum položil základ pro kritickou diskusi o umělé inteligenci svou prací Computer Power and Human Reason .

V 60. letech Weizenbaum vyvinul program „ELIZA“, který komunikoval s uživateli v roli psychoterapeuta. I když sám nevěřil, že by stroje mohly nebo měly převzít tuto roli, byl zděšen mírou důvěry, kterou lidé vkládali do jeho výtvoru. Tato zkušenost ho přivedla na dvouletou výzkumnou cestu a nakonec k vydání své knihy, ve které jasně řekl: lidské myšlení a vědomí obsahují dimenze, které v zásadě nejsou „vypočítatelné“. „Algoritmy plus výpočetní výkon“ nejsou totéž co „inteligence“.

„Reakce na ELIZA mi dramaticky ukázala, jak silně má i vzdělané publikum tendenci připisovat vlastnosti technologii, kterou ve skutečnosti nevlastní.“

Toto je jádro problému: Nejde o to, zda je AI užitečná – je. Dokáže napsat programový kód, navrhnout smlouvy, shrnout dlouhé texty a vytvořit „hluboké padělky“. Přišla zůstat. Otázka zní: Jak moc je vlastně inteligentní? A co od ní můžeme čekat?

Musíme uznat, že lidské schopnosti se zásadně liší od schopností strojů – a že, jak řekl Weizenbaum, „ne všechno, co umí počítač, by měl dělat počítač“.

Císařova nová mysl – Císař nemá šaty

V roce 1989 publikoval Sir Roger Penrose svou práci The Emperor’s New Mind . Jeho teze: Stále rozumíme mozku a vědomí příliš málo na to, abychom je dokázali technicky replikovat. Jeho dva nejsilnější argumenty:

1. Skutečné myšlení se často odehrává mimo jazyk, čísla nebo symboly – nad rámec toho, co by mohl počítač zpracovat.
2. Mnoho záblesků inspirace a kreativních vhledů není výsledkem symbolické kalkulace, ale zdá se, že ukazuje na spojení s „vyššími pravdami“ – narážkou na Platonův svět idejí. Stroje jsou z toho vyloučeny.

Společnost v obraze stroje

Stephen Talbott, bývalý redaktor O’Reilly, se zabýval sociálním dopadem počítačové kultury v The Future Does Not Compute

„Počítačová organizace se dokáže udržet sama – bez bdělého lidského zásahu – s vnitřní logikou, které sotva rozumíme.“

Talbottovo nejtemnější varování: totalita může v budoucnu existovat bez diktátora. Systémy se samy regulují – nepružné, nehumánní, byrokratické – a nikdo za to nenese odpovědnost.

Toto varování je dnes aktuálnější než kdy jindy: dohled, standardizace, ztráta autonomie – a absurdity, které vyplývají z nepružných, nezpochybnitelných systémů.

AI jako zrcadlo

Je ironií, že právě v tom spočívá největší příležitost umělé inteligence: ukazuje nám naše vlastní odcizení. Dává jasně najevo, že kalkulace není kreativita – a že pokud budeme tento rozdíl ignorovat, sami chřadneme. Talbott to vyjádřil takto:

„[Počítačová technologie] je nejmocnější pozvánkou ke spánku, jakou jsme kdy dostali.“

Ostrovy v digitálním proudu

Krátce před svou smrtí v roce 2008 poskytl Weizenbaum rozhovor s názvem „Ostrovy v kybernetickém proudu “. To se týká lidí, nikoli míst. Lidé, kteří odmítají následovat „logickou nevyhnutelnost“. Lidé, kteří uznávají, že kreativita nevzniká z výpočtů, že úsudek je víc než kalkul. Lidé, kteří odolávají digitálnímu spánku.

Takovým ostrovem se stala Tulsi Gabbard, když se zasadila o papírové volby v roce 2018. Rodiče, kteří svým dětem odpírají digitální zařízení. Občané preferující hotovostní platby. Madridská městská rada zakázala používání tabletů na základních školách. Nebo Nicholas Carr, který ukázal, jak internet ničí naši pozornost.

Weizenbaum věřil, že z ostrovů se jednoho dne mohou stát souostroví a nakonec kontinenty.

Proč na tom všem záleží

Otázka, zda stroje mohou myslet, je více než akademická. Určuje naše očekávání – od technologie i od nás samotných. A tato očekávání určují, zda směřujeme ke světu, ve kterém lidé dominují technologiím – nebo jsou jimi ovládáni.

A možná právě proto je termín „umělá inteligence“ tak upřímný. Je to umělé – a na to bychom neměli zapomínat. Zastánci transhumanismu a miliardových zisků chtějí, abychom se strojů báli – a podřídili se jim. Změnili termín na „strojová inteligence“, protože „umělé“ znělo příliš upřímně. Ale už je pozdě.

Kočka je venku z pytle.

Děkujeme za přečtení – prosím sdílejte, pokud vám tento příspěvek pomohl.