Duch w maszynie
(Ghost in the machine)

UMK - logo

       Włodzisław Duch  

duch1

Katedra Informatyki Stosowanej,
Uniwersytet Mikołaja Kopernika

Grudziądzka 5, 87-100 Toruń

e-mail: id: wduch, na serwerze fizyka.umk.pl.

WWW: http://www.fizyka.umk.pl/~duch

 


  1. Mit Kartezjański i rozumienie umysłu.


  2. Trudny problem świadomości i jego rozwiązania.


  3. Mózgo-podobna organizacja przetwarzania informacji.


  4. Sztuczny intelekt - argumenty za i przeciw.


  5. Czym są wrażenia i dlaczego istnieją?


  6. Wnioski i przewidywania.

1. Mit Kartezjański i rozumienie umysłu.

Fizyka - badania eksperymentalne i matematyczne modele rzeczywistości.
Czy fizyka wystarczy jako podstawa do zrozumienia rzeczywistości?
Czy jest w naszym rozumieniu świata miejsce dla umysłu?
Biofizyka - procesy bioelektryczne zachodzące w mózgu.
Psychofizyka - do XX wieku ważna dziedzina, Izaac Newton, Thomas Young, Herman von Helmholtz, Erwin Schrödinger (kolor); Ernst Mach (słuch, teoria pomiaru).

Czy teoria umysłu jest możliwa? Sporo ludzi sądzi, że przekracza to możliwości nauki.
“... bardzo chcę, by się to nam nigdy nie udało” (Ł. Turski, recenzja książki R. Penrose'a “Nowy umysł cesarza”, Postępy Fizyki, 1996)

50 lat od wydania książki “The concept of mind” (Czym jest umysł)
Gilbert Ryle (1900-1976), prof. Oxfordu - kartezjański mit “ducha w maszynie”, przekonanie o istnieniu kierującego ciałem ducha. Mit głęboko zakorzenionych w naszej kulturze, leżący u podstaw wielu religii.
Indianie widząc pędzący przez prerie pociąg byli pewni, że musi w nim być ukryty koń.

Pojęcie umysłu wynika z pomyłki kategorialnej, jaką jest uznanie umysłu za obiekt różny od sumy jego aktów i stanów, za rzecz a nie proces. Odwoływanie się do “ducha w maszynie” (deus ex machina) nie pomaga w wyjaśnieniu natury umysłu, bo każde odwołanie się do wewnętrznych procesów celem wyjaśnienia inteligencji wymaga użycia procesów inteligentnych, a więc niczego nie wyjaśnia.


2. Trudny problem świadomości

Świadomość – wiele aspektów, tutaj tylko najtrudniejszy.

Jakościowy charakter subiektywnych doświadczeń – stary problem w nowym ujęciu Davida Chalmersa (1995,96), jego książka (ma 43 recenzje!) i dyskusja (26 komentarzy) na łamach “Journal of Consciousness Studies”.

Qualis (łac.) oznacza własność w oderwaniu od rzeczy, posiadających daną własność, stąd w literaturze filozoficznej “qualia problem”.

Wrażenia subiektywne – nie wystarczy wyjaśnić funkcje, tak jak np. dla problemu integracji wrażeń o różnych modalnościach w jedną całość, dostępności informacji, tworzenia raportów na temat stanu wewnętrznego, dialogu wewnętrznego itp.

Wrażenie barwy nie daje się rozłożyć na czynniki prostsze, stąd wyjaśnienia redukcjonistyczne nie są możliwe.

Czy sztuczny system może mieć wrażenia? Jak można się do tego zabrać i jak to sprawdzić?

Zaprogramować można jedynie “różnice, które robią różnice”, a więc stany informacyjne. Istnienie wrażeń nie jest obserwowalną różnicą – tak się przynajmniej wydaje bo przetwarzanie informacji może zachodzić bez wrażeń (np. ślepota korowa).

Istnieje logiczna możliwość przetwarzania informacji “w ciemności”, bez doświadczania wrażeń, istnienia zombi.

Trudny problem: wrażenia. Reszta teoretycznie “łatwa”, bo sprowadza się do wyjaśnienia funkcji (wielu jeszcze nie poznanych).


Rozwiązania trudnego problemu

1. Czy jest tu jakiś realny problem ?

Dennett (1996): życie, “fajność” - trudne sztuczne problemy.
Wrażenia subiektywne kwestią mentalnych dyspozycji.
Życie, fajność – koncepcje abstrakcyjne, wrażenia nie.

2. Rozwiązania nie-redukcyjne.

Chalmers: podwójny aspekt informacji, fizyczny i fenomenalny (związany z wrażeniami) = naturalistyczny dualizm (por. Spinoza 1677)
Jest to właściwie rezygnacja z próby wyjaśnień i wprowadzenie nowego, fundamentalnego prawa przyrody: doświadczenia subiektywne istnieją, bo tak jest.

3. Teorie neurobiologiczne

Francis Crick i Chris Koch (1995), neurobiologiczna teoria znaczenia – dlaczego znaczeniu miałyby towarzyszyć doświadczenia świadome? Propozycja “neuronów świadomości” – naiwne, bo w mózgu nie ma słabych sprzężeń.
Crick, F. Koch, C. Towards a neurobiological theory of consciousness. Seminars in the Neurosciences, 2 (1991) 263-275.

4. Teorie psychologiczne

Bernd Baars – “brutalny fakt”, z jakimi często mają do czynienia psycholodzy. Globalnie dostępna informacja staje się świadoma, ale czy sztuczne systemy mogą mieć wrażenia?

5. Panpsychizm.

Stare rozwiązanie - świadomość własnością materii. W słabej wersji (Seager 1995, Rosenberg 1996) pojawia się jako panprotopsychizm: materia ma własność X, która w połączeniu ze złożoną materią tworzy świadomość. Własność X ma się tak do świadomości jak czas do ruchu. Czas wraz z przestrzenią umożliwiają istnienie ruchu, podobnie własność X wraz z innymi pozwala na istnienie świadomości.

6. Teorie redukcjonistyczne.

Podstawowe elementy świadomości, “protofenomeny”.
Jak te protofenomeny wiążą procesy fizyczne z umysłowymi?

7. Świadomość przejawem praw kwantowych.

Opis kwantowy konieczny dla nielokalnego modelu umysłu (Stapp 1993, Clarke 1995).
Różne rozwiązania, od grawitacyjnego kolapsu Penrose‘a do psychonów Ecclesa.

Żadne z tych rozwiązań niczego nie tłumaczy!


3. Mózgo-podobna organizacja przetwarzania informacji: świadomość wirtualna

Komputery i maszyny Turinga – niewłaściwa metafora, chociaż przydatna w przezwyciężeniu behawioryzmu.

Umysł: układ kontrolny systemu o specyficznej architekturze.
Umysł jest tym, co robi mózg.

Im dokładniejsze modele mózgu => tym więcej funkcji umysłu.
Nawet prymitywne modele pokazują zdumiewająco wiele podobieństw z działaniem umysłu!

Neuronowe modele pamięci asocjacyjnej:

  1. zdolność do rozpoznawania uszkodzonych wzorców,
  2. czas nie zależy od liczby zapamiętanych wzorców,
  3. uszkodzenie części macierzy połączeń nie prowadzi do zapomnienia konkretnych wzorców,
  4. pomyłki dla podobnych wzorców częstsze niż dla różnych,
  5. przepełnienie pamięci prowadzi do chaotycznego zachowania.

Komputerowa psychiatria: modele pamięci, różnego rodzaju amnezji (w tym dziecięcej), procesów degeneracji (neuropsychologia), zaburzeń mowy, halucynacji, problemów psychiatrycznych.

“Neural network models offer a better chance of rescuing the study of human psychological responses to drugs than anything else currently available” (Callaway, Halliday, Naylor, Yano, Herzig, Neuropsychopharmacology 1994).

Inne osiągnięcia:

  1. Gra w szachy, warcaby, systemy doradcze.
  2. Dowodzenie twierdzeń (np. hipoteza Robbinsa, 1936).
  3. Systemy ewoluujące, działające w oparciu o ogólne wartości, np. robot Cog z MIT, robot Nomad z La Jolla, gruntowanie sensu nie w symbolach, lecz w reprezentacjach senso-motorycznych.
  4. Ontologia podstawowa systemu CYC, powstanie zespołów ekspertów zdolnych do dyskusji, plany komputerowego doradcy prezydenta USA w sprawach kryzysów politycznych.

Dostępne komputery: poniżej 0.1% szybkości przetwarzania i wielkości pamięci ludzkiego mózgu!

Sztuczny umysł: pamięć robocza (WM), pamięć trwała, dyskryminacja ciągłych reprezentacji, aktywacja asocjacji, reprezentacja jestestwa, możliwość komentowania stanu WM. Struktura umysłu wynikła z oddziaływania ze środowiskiem, nie ma skończonej logicznej specyfikacji. Jaka jest granica możliwości tego typu modeli?

Artilekt: sztuczny umysł w miarę doskonalenia modelu obliczeń opartego na mózgopodobnej organizacji stanie się coraz bardziej podobny do prawdziwego umysłu. Będzie nie tylko twierdzić, iż ma wrażenia, ale i będzie sam o tym przekonany, interpretując stan swojej pamięci roboczej.

Czy możemy uznać, iż będzie to przekonanie fałszywe?
Wiele wysiłku w filozofii umysłu poświęcono próbom pokazania, że intencjonalność, rozumienie, wrażenia, świadomość to cechy maszynom niedostępne.


4. Sztuczny intelekt - argumenty za i przeciw.

Poszukiwanie rozwiązań w teoriach fundamentalnych jest błędne; w równaniu Schrödingera są zachody słońca i rechotanie żab ale niewiele się z niego o żabach nauczyliśmy, więc i kwantowa grawitacja nam nie pomoże.
Świadomość pojawia się jedynie w systemach o mózgo-podobnej złożonej organizacji.
Fizyka wyjaśnia złożone zjawiska w oparciu o proste prawa, tu jest dokładnie odwrotnie, mamy proste odczucia, ale stoją za nimi złożone procesy.

Dobra teoria powinna pytać: jakiego rodzaju systemy mają umysły? Jak musza być zbudowane? Na jakie inne, istotne pytania dotyczące działania umysłu odpowiada teoria?

Rozważania filozoficzne: uwikłane w problemy lingwistyczne.

Czym jest ładunek? Krzesło? Proszę o następne pytanie.

Czy mamy dobry test, odróżniający systemy posiadające wrażenia od systemów przetwarzających informację, np. kosmity? Skąd wiemy, że mamy do czynienia ze sztucznym umysłem?

Test Turinga – do dzisiaj dyskutowany. Czy wystarczy przejść test Turinga by uznać, że mamy do czynienia z systemem świadomym?
Turing w piśmie Mind (1950) rozważył różne argumenty przeciw takiej możliwości:

  1. Zarzut teologiczny: maszyna nie ma duszy.
    Wersja współczesna – psychony wokół dendronów, John Eccles.
  2. Lepiej schować głowę w piasek – straszne konsekwencje, przede wszystkim dla naszego antropocentryzmu. Efekt: racjonalizacje i emocje, przekonanie o beznadziejności badań nad umysłem, nadzieje na to, że problem nigdy nie zostanie zrozumiany (np. Turski).
  3. Zarzut matematyczny – twierdzenia Gödla, Churcha, Turinga o zdaniach nierozstrzygalnych (por. Lukas, Penrose). Poszukiwania nowej fizyki, mikrotubule - niepotrzebne. Ograniczenia umysłu są dużo silniejsze!
    Wniosek: nie można stworzyć maszyny wszechwiedzącej.
  4. Świadomość, emocje, uczucia to rzeczy niedostępne maszynom – trudny problem Chalmersa.
  5. Argumenty dotyczące różnych niemożliwości, w tym trudności ze zrozumieniem koncepcji matematycznych, czyli ... maszyna jest głupia i zawsze taka być musi?
  6. Twórcze działanie. Maszyna sama nie może nic wymyślić – teraz już może !
  7. Układ nerwowy nie działa w sposób dyskretny – ale możliwe są dowolnie dokładne aproksymacje (analogowe komputery zastąpiły cyfrowe).
  8. Zachowanie człowieka nie da się opisać przy pomocy reguł – wielu programów również!
  9. Postrzeganie pozazmysłowe – argument równie mało aktualny teraz jak i w 1950 roku.

Turing odrzucił wszystkie te argumenty. Filozofowie umysłu znaleźli inne argumenty przeciw:

Inne problemy związane ze świadomością:



Funkcjonalizm: zasada niezmienniczości organizacyjnej.

Liczy się tylko organizacja, stany informacyjne, a nie materia (nieładnie być “węglowym szowinistą”). Jest to podstawa większości argumentów w filozofii umysłu, wpływ analogii umysł-komputer uniwersalny.

Ale: atomu węgla nie można jednak zastąpić atomem krzemu, ani też neuronu biologicznego podmienić sztucznym. Drobne zmiany struktury mózgu sumują się prowadząc do zmian postrzeganych wrażeń.

Krzemowe mózgi nie mogą być identyczne z biologicznymi ale modele aproksymujące funkcje mózgu w granicy dokładności powinny dążyć do zachowań typowych dla prawdziwego mózgu.

Wszystkie wypowiedzi dotyczące wrażeń wymagają działania mechanizmów poznawczych.
Jestem przekonany, że mam wrażenia, które nie są tylko złudzeniem.

Czy podobne przekonania mieć może maszyna? Jeśli tak, należy uznać, że systemy o odpowiedniej architekturze mogą być świadome.

Nie widzę dobrych argumentów przeciw takiej możliwości.
Eksperymenty myślowe przeciw nie są przekonywujące!


5. Czym są wrażenia i dlaczego istnieją?

Podstawowe operacje mózgu: kategoryzacja, wartościowanie i odnoszenie do modelu wewnętrznego jestestwa.

Konieczne jest szybkie porównanie np. smaku z zapamiętanymi smakami w długotrwałej pamięci (szczury są w tym dobre), a więc centralny system dystrybucji informacji do wszystkich części mózgu – jest to rola pamięci roboczej (por. Baars).

Pamięć robocza jest niewielka, oparta na dynamicznych stanach mózgu (stan bioelektryczny); pamięć długotrwała jest ogromna (struktura połączeń synaptycznych).

Brak adekwatnej reprezentacji symbolicznej ciągłych wrażeń. Zwierzęta nie używają języka. Liczba rozróżnialnych stanów jest znacznie większa niż liczba dostępnych symboli.

Wrażenia pozwalają na niewerbalne odróżnienie różnych niewerbalnych stanów mózgu.
Stan pamięci roboczej zawiera ciągle aktualizowany komentarz aktualnego stanu pobudzenia mózgu, interpretowany jako “wrażenie”.

Dyskryminacja sygnałów od różnych zmysłów i różnych sygnałów z tego samego zmysłu ułatwia porównania. Rezultaty dyskryminacji pojawiają się jako stany umysłu – może pojawić się myśl (reprezentacja dźwięku, symbolu, common sensorum), lub wrażenie, reprezentacja niewerbalna.

Wrażenia to niewerbalne “nazwy” pozwalające na porównanie ciągłych reprezentacji na poziomie globalnej dynamiki mózgu, “stany rezonansowe” mózgu (Adaptive Resonance Theory, ART Steva Grossberga).

Wrażenia są ściśle związane z mechanizmami uwagi. (Ikkyu – uwaga!).

Wniosek: Wrażenia spełniają rolę funkcjonalną.

“Czyste doświadczenie fenomenalne”, wrażenia bez odniesienia do pamięci czy ich funkcji, to filozoficzna fikcja.

Czemu jestem przekonany, że mam wrażenia, na czym polega odczuwanie wrażeń?
Odczuwanie jakości wrażeń wymaga interpretacji stanów pamięci roboczej przez mechanizmy poznawcze. Sens słów wynika z kontekstu (nie tylko bieżącego), sens (odczucie) wrażeń również, odniesień do pamięci. Jeśli te mechanizmy interpretujące nie działają odczuwanie jakości wrażeń powinno znikać.

Nie jest to redukcja stanów świadomości do stanów mózgu – istotne są relacje pomiędzy tymi stanami i interpretacji tych relacji, w tym rola środowiska w kształtowaniu stanów umysłu i relacji między nimi.

Pytanie “czym jest świadomość” nie znika (jak np. u Dennetta czy Churchland). Czerwony kolor wywołuje specyficzne wrażenie nie tylko z powodu dyspozycji mentalnych, lecz również realnych stanów mózgu/umysłu.

Świadomość jest zdolnością do interpretacji stanu pamięci roboczej.

Świadomość refleksyjna: wymaga modelu jestestwa (Dasein).
Poczucie tożsamości wiąże się z wewnętrznym modelem ciała i propriocepcją, przewidywaniem skutków swoich ruchów.

Czym jest umysł? Systemem kontrolnym organizmu o specyficznej budowie, a nie maszyną Turinga.


6. Wnioski i przewidywania

Przy odpowiedniej konstrukcji sztuczne mózgi będą twierdzić, że mają wrażenia i że są świadome!

Jednak sztuczny mózg => sztuczny umysł.
Bardzo trudno jest modelować szczegóły uczenia synaptycznego, dynamikę receptorów, a tym samym zachowania emocjonalne.

Prawdziwe mózgi prowadzą do prawdziwych umysłów: w ciele (embodied), w środowisku (por. Merleau-Ponty, Fenomenologia Percepcji 1962) a nie tylko w głowie. Pojęcie umysłu w oderwaniu od środowiska nie ma sensu.

Wrażenia świadome nie mają specjalnego statusu wśród innych zjawisk umysłowych, za poczucie jakości wrażeń odpowiedzialne są skomplikowane mechanizmy poznawcze (alternatywa - wrażenia bez żadnej funkcji, prowadzi do ogromnych trudności).

Iluzja, że musi być “duch w maszynie” (koń w parowozie?) jest bardzo silna. Dlaczego?
Brakuje dobrej fenomenologii świadomości, potrzeba neurofenomenologii (cf. F. Varela), głębokiej introspekcji, a nie powierzchownych obserwacji.

Czy jest to możliwe? Prajnia Paramita Hridaja, napisana (ok. 350 r.) przez ekspertów od głębokiej introspekcji:

“Bodhisatwa Awalokiteśwara,
praktykując głęboko Doskonałość Mądrości (Prajnia Paramita),
ujrzał pustkę wszystkich pięciu skand
i odrzucił więzy, które powodowały jego cierpienia"

5 skand to: ciało fizyczne, wrażenia, postrzeżenia, tendencje i świadomość.
Świadomość i inne zjawiska mentalne oraz fizyczne są wynikiem "wzajemnego warunkowania", żadne z nich nie ma specjalnego statusu.


6. Przewidywania

Takie podejście do problemu pozwala na sformułowanie wielu wniosków, nie dających się wyprowadzić z innych rozwiązań trudnego problemu świadomości.

Uwagi końcowe

Co dam nam poczucie, że rozumiemy czym jest umysł?

Nic! Rozumienie i poczucie to różne procesy w mózgu, rozumienie głównie płatów czołowych i obszarów związanych ze zdolnościami językowymi (zwykle lewej półkuli), poczucie zależne jest od stanów ośrodków podkorowych, wzgórza i ciała migdałowatego.

Czy jest duch w maszynie?
Tak! Psycho-logia, "logika duszy", to poziom autonomiczny, emergentny, jego fizycznym substratem są relacje pomiędzy elektrochemicznymi falami pobudzeń mózgu.
Nie! Odwołanie do zjawisk niefizycznych niczego nie wyjaśnia.

Czym jest umysł? Tym, co robi mózg, lecz jednocześnie to mózg jest organem umysłu.

Czy trudny problem świadomości jest istotny?
Naprawdę ważne pytania mają naturę etyczną !

Czy jest coś jeszcze do wyjaśnienia?











Polecam archiwa dostępne ze strony WWW:

http://www.fizyka.umk.pl/~duch

Ten referat: http://www.is.umk.pl/~duch/ref/d-w-m/99dwm.html

Archiwa do nauk kognitywnych: AI, modeli kognitywnych, lingwistyki, filozofii, psychologii, psychofizyki ... http://www.is.umk.pl/~duch/cognitive.html

Nauki kognitywne na UMK (projekt) http://www.cc.uni.torun.pl/~cogsci/cogsci.htm

Pismo "Kognitywistyka i media w edukacji" http://www.ped.uni.torun.pl/kognityw/a>

Do sieci neuronowych, neurobiologii i matematyki http://www.is.umk.pl/~duch/neural.html oraz http://www.fizyka.umk.pl/neural/neural.html

Wszystko o komputerach, oprogramowaniu, Internecie ... http://www.is.umk.pl/~duch/book-fsk.html