Caitlin Johnstone: Ještě pár myšlenek o umělé inteligenci a vědomí
Jsem si stejně jistý, že chatboti postrádají vědomí, jako jsem si jistý, že animované postavičky v Disneylandu postrádají vědomí. Vím, že je lidé vyvinuli, aby napodobovali chování vnímající lidské bytosti. To je fakt. Nikdo netvrdí opak.
Richard Dawkins je v současné době terčem velkého smíchu a posměchu kvůli svému nedávnému článku pro UnHerd , ve kterém přiznává, že ho extrémně poddajný chatbot přesvědčil, že by mohl mít vědomí.
V průběhu této kontroverze se neustále vynořuje otázka: „Jak si můžete být jisti, že umělá inteligence nemá vědomí?“ Já osobně bych řekl, že jsem si stejně jistý tím, že chatboti nemají vědomí, jako jsem si jistý tím, že animované postavičky v Disneylandu nemají vědomí. Vím, že je lidé vyvinuli, aby napodobovali chování vnímající lidské bytosti. To je fakt. Nikdo nepředstírá opak.
Napsala jsem celé knihy o tom, jak jsou lidé, kteří věří, že víly žijí v zahradách, idioti, jen aby se zamilovali do kalkulačky, která ho nazývá chytrým.
Považuji za mnohem pravděpodobnější, že zvíře má vědomí, než člověk s LLM, protože je nikdo nenaprogramoval tak, aby reagovaly na věci jako bolest a sociální podněty stejným způsobem jako lidi. Reagují tímto způsobem zcela spontánně.
Když omylem šlápnu psovi na tlapku, vyštěkne. Když omylem šlápnu kočce na ocas, zamňouká. Když si omylem píchnu o palec u nohy, zakleji. Z toho mohu rozumně usoudit, že tito tvorové pravděpodobně mají subjektivní prožitek bolesti podobný mému, protože jejich reakce vznikají spontánně z jejich přirozeného stavu bytí – podobně jako moje vlastní reakce na stejný podnět.
Tato subjektivní zkušenost je to, co tvoří vědomí.
Lidé jako Richard Dawkins tvrdí, že chatboti sice mohou být schopni vědomí, protože mohou vykonávat úkoly dříve vyhrazené lidské mysli – ale stále jsou to pouze stroje napodobující lidské chování, protože k tomu byly naprogramovány. Pokud natrénujete model velkého jazyka (LLM) na lidském jazyce, bude přirozeně říkat a dělat věci, které by dělal člověk, včetně tvrzení, že je schopen vědomí.
V současné době neexistuje důvod předpokládat, že stroj vykonávající svou zamýšlenou funkci vnímá tyto procesy subjektivně. Samozřejmě si nikdy nemůžeme být jisti subjektivní zkušeností kohokoli nebo čehokoli , ale v současné době existuje tolik důvodů k domněnce, že chatboti jsou schopni vědomí, jako k domněnce, že písek a kameny jsou schopny vědomí. To by klidně mohlo být pravda, ale pokud ano, znamená to, že žijeme ve zcela jiném druhu vesmíru, než jaký tato diskuse o vědomí umělé inteligence předpokládá.
„Jsem příliš chytrý na to, abych věřil v boha, ale magický stroj Midwit rozhodně žije.“
Čím častěji se s těmito argumenty setkávám, tím jasnější je, že jen velmi málo z těch, kteří spekulují o strojovém vědomí, věnovalo tolik energie a pozornosti zkoumání toho, co vědomí vlastně je. Zkoumání vědomí je něco, co může kdokoli dělat tady a teď, bez laboratoře, testovacích subjektů nebo vědeckého zázemí, a přesto si jen málokdo najde čas, aby to skutečně udělal.
Když se člověk ponoří hlouběji do vlastního vědomí, narazí na mnoho překvapení, protože průměrná lidská psychika je založena na četných nepodložených předpokladech o sobě, vnímání a prožívání, které neobstojí při bližším zkoumání. Jedna věc se však brzy vyjasní: vědomí zahrnuje mnohem víc než jen myšlenky a kognitivní chování. I když jsou to některé z věcí, kterých si můžeme být vědomi , bylo by nepřesné říci, že samy o sobě tvoří podstatu vědomí.
Skutečnost, že chatboti jsou schopni napodobovat kognitivní chování, není dostatečným důvodem k domněnce, že by mohli být schopni vědomí; neboť bez ohledu na to, kolik myšlenek zdánlivě generují nebo jak brilantní se tyto myšlenky mohou zdát, neexistuje žádný důkaz o tom, že by toto chování bylo podpořeno zkušeností, stejně jako je bolest podpořena zkušeností kočky, které je šlápnuto na ocas. Je to pouze pohyb neživé hmoty, jako je blesk nebo vítr, bez jakékoli subjektivní zkušenosti z perspektivy, ze které vzniká. Výpočetní výkon a vědomí nejsou totéž.
