Czy program może rozwinąć "prawdziwą" intencjonalność i rozumienie?
Czy test Turinga jest warunkiem dostatecznym by to sprawdzić?
John Searle
w 1980 roku przedstawił eksperyment myślowy, stanowiący argument przeciwko możliwości rozumienia przez maszynę oparta na dyskretnych symbolach.
Searle rozróżnił słabą i mocną wersją programu badań AI.
Słabe AI: symulacje komputerowe pozwalają rozwiązywać problemy wymagające inteligencji. Jest wiele przykładów takich programów i nie ma tu kontrowersji.
Silne AI: odpowiednio zaprogramowany komputer myśli, można mu przypisać stany poznawcze, a więc rodzaj umysłu.
Przypisywanie maszynom rozumienia, intencji czy odczuwania to metafora językowa
(ale George Lakoff
twierdzi, że cały język jest systemem metafor).
Searle chciał pokazać, że formalny opis syntaktyczny reguł działania systemu AI prowadzi do "impotencji semantycznej", maszyna niezdolna jest do prawdziwego rozumienia.
Jest to w istocie wersja wyobrażenia umysłu jako młyna, w którym nie znajdziemy rozumienia, przedstawiona przez Leibniza.
Załóżmy, że jakiś program prowadzący dialog po chińsku, spełnia test Turinga (Kloch 1976); czy taki program naprawdę rozumie język chiński?
Pojęcie "rozumieć" zostało tu użyte w sposób intuicyjny, np. wiemy co oznacza rozumieć opowiadania po angielsku, polsku czy chińsku, wiemy w którym języku rozumiemy, a w którym nie rozumiemy - zakłada to świadome rozeznanie.
Searle proponuje następujący sposób zbadania problemu.
Wyobraźmy sobie, że jesteśmy zamknięci w pokoju wypełnionym koszami z napisami w języku chińskim.
Nie znamy języka chińskiego, ale mamy szczegółową instrukcję postępowania z regułami, manipulujemy symbolami rozpoznając kształty.
Przez okienko dostajemy pytania w pisemnej formie, analizujemy otrzymane symbole i posługując się licznymi regułami zestawiamy odpowiedzi.
Chińczycy widzą w nich sens i myślą, że w środku jest ktoś, kto rozumie pytania.
Wykonywanie formalnego programu nie wystarczy nam do zrozumienia, bo nie rozumiemy ani pytań ani odpowiedzi.
Skoro my nie rozumiemy to maszyna wykonująca program też nie rozumie.
Sama syntaktyka nie wystarcza do semantyki.
Rozumienie znaczenia symboli przez człowieka i programy jest całkiem odmienne.
Artykuł Searle'a opublikowano w piśmie
"Behavioral and Brain Sciences"
wraz z 34 komentarzami, jest też artykuł w
encyklopedii nauk kognitywnych MIT.
Skąd mogłoby się pojawić rozumienie w systemie formalnym? Co pozwala na rozumienie? W komentarzach rozważono kilka możliwości, zgrupowanych tu w kilku hasłach.
Chińska "sala gimnastyczna" może być pełna demonów pobudzających sztuczne neurony.
Sztuczne systemy neuronowe można w idealny sposób symulować za pomocą zwykłego komputera, więc nie wnoszą nic nowego.
Zespół ludzi zastępujący jednego człowieka nadal nie będzie rozumiał języka chińskiego.
Organizacja przetwarzania informacji wzorowana na działaniu ludzkiego mózg nie gwarantuje intencjonalności systemu.
Wnioski Searla: Test Turinga nie wystarczy by uznać, że system naprawdę rozumie.
Podstawy kognitywistyki są błędne! Funkcjonalizm nie wystarczy.
Prawdziwe są następujące przesłanki:
Komentarz do A3: struktura programu może być opisana syntaktycznie ale jego działanie niekoniecznie, bo zależeć może od napływających danych, a program uczący się zmienia swoją strukturę sam się modyfikując.
Działanie systemów uczących się nie jest określone przez samą syntaktykę programu bo program jest nieznany i ciągle się zmienia.
Searle wyciąga następujące wnioski:
Wszystkie procesy fizyczne opisać można tak, jakby przetwarzały informacje, np.
zasada minimalnego działania pokazuje, że na procesy mechaniczne, które przebiegają zgodnie z loklanymi, deterministycznymi zasadami (o ruchu układu decydują siły w danym punkcie i w danym momencie) patrzeć można tak, jakby cała trajektoria minimializowała wielkość zwaną
działaniem.
Wygląda to tak, jakby przyroda "wybierała" działanie po najmniejszej linii oporu.
Chociaż "przetwarzanie informacji" w komputerach zachodzi na poziomie symbolicznym, ale przyczyny i skutki mogą być podobne jak w mózgach.
Mózgi "jakby przetwarzały informację", chociaż na poziomie fizycznym przyjmują tylko różne stany neurodynamiczne; na poziomie symbolicznym możemy interpretować ich działanie w sensie przetwarzania informacji, chociaż dla biologa mogą to być neurofizjologiczne reakcje.
Czy pomiędzy stanami mózgu a stanami psychicznymi nie trzeba wprowadzić pośredniego poziomu?
Płodny punkt widzenia możliwy jest gdy mamy wiele poziomów pośrednich.
Opis umysłu wymaga odpowiednich aproksymacji do opisu działania mózgu, od poziomu pojedynczych neuronów do poziomu zachowania.
Po wydaniu artykułu Searle'a toczyła się nadal długa dyskusja na tematu tego eksperymentu myślowego.
Wskazywano na podobieństwo argumentów Searle'a do "ducha w maszynie"
Gilberta Ryle: umysł jest zbiorem funkcji a nie rzeczą, ale sednem argumentu chińskiego pokoju jest właśnie brak funkcji.
Wątpliwości niektórych filozofów budzi też samo zadanie: jak człowiek mógłby wykonać pracę tak złożoną? Tym bardziej, jak mógłby zapamiętać miliony reguł?
Zenon Pylyshyn: zamieniając kolejno neurony prawdziwego mózgu na krzemowe elementy stopniowo zaniknie rozumienie, a zostanie samo przetwarzanie symboli, chociaż zewnętrznie nic się nie zmieni?
Krzemowa kora wzrokowa spowoduje brak zrozumienia wrażeń wzrokowych zostawiając prawidłowe reakcje?
Zupełnie nieprawdopodobne.
Tajemnicze "moce przyczynowe" mózgu to bezpłodna koncepcja.
Douglas Hofstadter i Daniel Dennett, w książce "The Mind's I: Fantasies and reflections on self and soul" (Oko umysłu, 1981), opisali eksperyment z chińskim pokojem kontrolowany pokrętłami zmieniającymi różne parametry :
Ustawienia Searle'a:
1) papier i symbole
2) koncepcje, idee
3) rozmiary pokoju
4) demon wielkości człowieka
5) powolne operacje.
Przypuśćmy, że neurony w mózgu kobiety nie działają i nie ma ona umysłu.
Mały szybki demon dostarcza odpowiednie impulsy we właściwym czasie, przywracając jej umysł.
Czy umysł ten jest prawdziwy, czy tylko symulowany?
Searle sądzi, że prawdziwy, bo neurony teraz działają, jednak zakłada z góry, że wszystko, co nie jest biologicznej natury, nie wystarcza do osiągnięcia intencjonalności.
Powiększmy teraz rozmiary: mózg jest wielkości Ziemi, demon człowieka, jedna operacja trwa sekundę; czy nadal umysł wydaje się prawdziwy?
W mózgu nie ma obrazów, dźwięków, kolorów, przeżyć psychicznych.
Informacja wymaga architektury aktualizującej, np. elektroniki DVD, membrany głośnika, dzięki której system może działać.
Symbole w mózgu to specyficzne oscylacje w sieciach neuronów, "moc przyczynowa neuronów" nie ma tu nic do rzeczy, liczą się procesy skojarzeniowe, strumień zdarzeń wewnętrznych.
Abstrakcyjna informacja nie zastąpi fizycznego substratu przyjmującego odpowiednie stany i dającego mu możliwości działania, w tym również działań wewnętrznych, przywołania wyobrażeń.
Oprócz informacji o zjawisku potrzebny jest odtwarzacz, który ją zaktualizuje, oprócz DNA potrzebujmy środowiska dla rozwoju płodu, oprócz umysłu potrzebne jest ciało.
Żaden obserwator znajdujący się w mózgu człowieka nie dostrzeże myśli; dlaczego oczekujemy, że rozumienie obserwatora jest warunkiem uznania, że system rozumie?
Jakie są warunki powstania zrozumienia w naszym umyśle?
Rezonans poznawczy, "zestrojenie mózgów", empatia, pozwala współ-czuć i rozumieć.
Zrozumienie stanów mentalnych mózgów o całkiem innej strukturze jest możliwe w sensie ogólnych intencji, ale im bardziej odmienne tym będzie trudniej.
Demon-obserwator nie wystarczy, musiałby mieć podobny mózg, działać z odpowiednią szybkością i być zestrojony z obserwowanym mózgiem tak, by wywołać w nim podobne procesy co w obserwowanym systemie.
Program jest warunkiem koniecznym, ale nie wystarcza do wywołania intencjonalności.
Dopiero program i odpowiednia architektura całego systemu wystarcza.
Searle: intencje termostatu to absurdalny pogląd, prowadzi to do panpsychizmu.
"Intencje" termostatu to oczywiście metafora jeśli rozumieć intencje w ludzkim sensie, stany termostatu nie przypominają stanów mentalnych choć pełnią podobną rolę funkcjonalną.
Złożoność wrażeń organizmów biologicznych może się różnić od kleszcza do normalnie rozwiniętego człowieka.
W rozwoju umysłu można dostrzec zarówno ciągłość jak i skoki ewolucyjne aparatu poznawczego.
Ciągłość rozwoju umysłu: niedorozwój mózgu, mózgi zwierząt, urządzenia sztuczne.
Nieciągłości: odróżnienie siebie od otoczenia, pojawienie się autorefleksji.
Osiągnięcie intencjonalności w sztucznym systemie: konieczne są subtelne wibracje fizycznego substratu odzwierciedlające treści mentalne, odpowiednia synchronizacja, nie można dowolnie manipulować czasem, bo procesy się rozstroją i zdolności poznawcze jak i możliwe stany wewnętrzne ulegną całkowitej degradacji, system nie będzie już mógł dokonywać skojarzeń i rozróżnień, które stanowią podstawę stanów poznawczych.
Zauważmy, że gdyby ten system działał dla języka polskiego (lub gdybyśmy znali chiński), to reguły, pytania jak i odpowiedzi udzielane przez system miałyby dla nas sens; czy to znaczy, że w systemie jest rozumienie tylko wtedy, gdy mamy w nim człowieka, który zna dany język, a rozumienie znika, gdy to inny język?
Test Turinga pozwala odrzucić programy, które nie można uznać za umysł.
Eksperyment z chińskim pokojem zawsze prowadzi do negatywnego wyniku, również dla mózgów!
Searle: wiemy skądinąd, iż mózgi "rozumieją" i "mózgi są przyczyną umysłów".
Właściwym podejściem jest najpierw ustalenie, jak można ocenić rozumienie.
Potrzebny jest do tego test Turinga, można go rozszerzyć na bardziej złożone zachowania niż tylko odpowiedzi werbalne, ale potrzebny jest test, który przynajmnej w stosunku do niektórych ludzi da wynik pozytywny.
"Chiński pokój" to nie jest test, tylko demagogicznie ustalony punkt widzenia zawsze odmawiający rozumienia!
Searla oczekuje, że obserwator będzie miał świadome wrażenie "rozumienia", ale takie wrażenie i rozumienie operacyjne to dwie różne sprawy.
Wrażenie "rozumiem" to sygnał mózgu: "OK, mogę słuchać dalej, przetrawiłem już porcję informacji, mogę działać dalej", taki jest jego sens ewolucyjny.
Brak wrażenia "rozumiem" nie oznacza jeszcze braku rozumienia - pytany na egzaminie mogę odpowiadać sensownie, chociaż nie jestem przekonany, że w pełni rozumiem. Znaczna część procesów zrozumienia przebiega poza świadomością.
Odwrotnie, poczucie rozumienia nie oznacza, że się rozumie (np. można mieć wrażenie wszechwiedzy po zażyciu środków halucynogennych, ale nic z tego nie wynika).
Searle chce, by obserwacja wewnętrznych mechanizmów przetwarzania informacji wywołała w obserwatorze poczucie rozumienia, które jest dla niego ważniejsze od testu.
Taka obserwacja nie pozwala na ocenę, można jedynie sprawdzać czy system jako całość reaguje w odpowiedni sposób - warunkiem uznania, że ktoś rozumie jest pozytywny wynik egzaminu.
Dzieci chowające się w dwujęzycznych środowiskach nie potrafią czasami przetłumaczyć jakiegoś zwrotu z jednego języka na drugi, ale wiedzą jak je użyć w danym kontekście.
Czy "Chiński pokój" to system, który może mieć wewnętrzne poczucie rozumienia?
Przypomina on raczej zombi, nie ma w nim bowiem miejsca na ocenę własnych stanów wewnętrznych, nie potrafi sobie niczego wyobrazić, ani wmówić, że coś wie.
Nie ma tu nawet pamięci epizodycznej, która pozwala na budowanie modelu sytuacji na podstawie dialogu.
Nie jest to dobra aproksymacja do rzeczywistego systemu poznawczego.
Trudno będzie przybliżyć działanie mózgu za pomocą reguł; jest to jednak problem techniczny aproksymacji mózgopodobnych struktur przez struktury sztuczne, a nie zagadnienie filozoficzne.
Rożna struktura sprzętu prowadzi do różnych struktur mentalnych i umysłu.
Wzajemne zrozumienie pomiędzy zwierzętami różnych gatunków jest tym większe, im bardziej podobna jest struktura ich mózgów (sprzętu), umożliwiając rezonans poznawczy dzięki procesom lustrzanym.
Roger Penrose, fizyk matematyczny z Oxfordu, napisał kilka popularnych książek:
"Nowy umysł cesarza" i "Cień umysłu".
Popularność książki te zawdzięczają zapewne chęci chowania głowy w piasek (Turing).
Argument przeciwko "silnemu AI" oparty na twierdzeniu Gödla i Churcha-Turinga.
Filozof z Oxfordu,
J.R. Lucas (1961), rozważał ten sam argument znacznie wcześniej.
Penrose poświęca 250 stron dyskusji na temat tw. Gödla by dowieść, że:
Żaden program komputerowy, działający w oparciu o zbiór niesprzecznych wewnętrznie aksjomatów, nie może rozstrzygnąć pewnych pytań, z którymi człowiek sobie poradzi.
Penrose sądzi, że człowiek radzi sobie dzięki świadomości.
Nie potrafi jednak sprecyzować, o co mu chodzi, pisze: "świadomość bez wątpienia jest czymś".
Głównym argumentem jest to, że czasami możemy łatwo zobaczyć coś, co trudno udowodnić, ale to jedynie świadczy o przydatności reprezentacji wizualnych.
Penrose wyróżnił 4 podejścia do świadomości:
A) Myślenie jest po prostu obliczaniem a świadomość wynikiem tych obliczeń.
B) Świadomość jest cechą fizycznych właściwości mózgu. Można je symulować rachunkowo ale samo obliczanie nie powoduje świadomości.
C) Fizyczne działania mózgu wywołujące świadomość nie mogą być symulowane rachunkowo.
D) Świadomości nie można wyjaśnić metodami naukowymi.
Wg. Penrose'a A) jest zgodą na test Turinga do oceny inteligencji i świadomości, ale sam Turing o świadomości celowo nic nie mówił!
Krytyka AI przez Penrose'a nie wykazuje zrozumienia przedmiotu:
wyśmiewa się z pomysłu "algorytmu umysłu", bo gdyby zapisać algorytm w książce i przewracać jej kartki, to by umysł z tego nie powstał ...
Autor walczy z wiatrakami, poszukując umysłu abstrakcyjnego, a nie realnego: nikt nie sądzi, że sam algorytm to już umysł, potrzebna jest cała architektura.
Z tych rozważań nie wynikają żadne ograniczenia dla inteligencji maszyn.
Przekonanie Penrose'a, że nie da się zrobić dobrego programu do gry w go, nie jest niczym poparte, w tej dziedzinie nastąpił
wyraźny postęp.
Na go nie ma takich pieniędzy jak na szachy; go jest trudne, bo trzeba skupić się na wzorcach a nie procesach szukania, ale świadomość nic do tego nie ma, to brak reprezentacji wizualnych i orientacji przestrzennej w dotychczasowych programach.
Ogólnie zakładanie, że w jakiejś dziedzinie sztucznej inteligencji nie da się zrobić postepu z podwodu braku "świadomości" jest bardzo naiwne.
Penrose pomija całkowicie możliwości B) i D), a skupia się na C).
Ma to wynikać z twierdzenia Gödla i Turinga, gdyż świadomości (co u niego znaczy "czegoś"?) nie można symulować.
Maszyny nie mogą według niego rozwiązać zagadnień niealgorytmicznych, a ludzie mogą, dzięki "świadomemu myśleniu".
Jednak nasze możliwości rozwiązywania zadań niealgorytmicznych są bardzo ograniczone i we wszystkich dziedzinach, w których możliwa jest precyzyjna reprezentacja wiedzy, maszyny działają lepiej od ludzi rozwiązując trudniejsze zadania.
Wniosek: głównym problemem jest brak dostatecznie bogatej reprezentacji wiedzy w systemach sztucznych.
Trudności w zrozumieniu świadomości prowadzą Penrose'a do poszukiwanie ezoterycznej fizyki procesów nieobliczalnych, koniecznej jakoby do zrozumienia umysłu.
Grawitacja kwantowa i pętle czasowe mają być pomocne w zrozumieniu umysłu? Na razie nie przydały się nawet do opisu najprostszych zjawisk fizycznych.
Procesy kwantowe w mikrotubulach, strukturach cytoszkieletalnych znajdujących się we wszystkich komórkach, mają grać rolę w powstawaniu świadomości?
Nie jest to prawdopodobne, zjawiska kwantowe są w temperaturze pokojowej niestabilne, istnieją niezwykle krótko.
Modelowanie neuronowe na poziomie praw fizyki klasycznej pokazuje jak działają liczne funkcje mentalne i nic nie zapowiada, by możliwości rozwoju w tym kierunku napotkały jakąś barierę wynikającą z braku efektów kwantowych. Mamy bardzo dobre symulatory działania pojedynczych neuronów, całkiem dobre całej kolumny korowej zawierającej 30.000 neuronów, nie widać w tych modelach potrzeby wprowadzania bardziej szczegółowych zjawisk odwołująych się do efektów kwantowych.
W swoich książkach Penrose nie ma natomiast prawie nic o neuronach, neuropsychologii czy konkretnych funkcjach i dysfunkcjach poznawczych, które należy wyjaśnić. To nie jego dziedzina, zajmuje się tylko wyjaśnianiem "świadomości" - czyli konkretnie czego, dokładnie w jakiej sytuacji, na jakie pytania odpowiada?
Jak na razie kwantowe teorie świadomości nie wytłumaczyły ani jednego zjawiska, które badają ludzie zajmujący się świadomością, np:
W dyskusjach o umyśle warto wyraźnie odróżnić zagadnienia dotyczace inteligencji, myślenia, intencjonalności i świadomość.
Test Turinga dotyczył tylko myślenia, nie ma powodu by odrzucać jego wyniki czy twierdzić, że system, który spełnia taki test nie rozumie jeśli wszystkie pytania pokazują, że rozumie.
Czy do myślenia konieczna jest świadomość? Tak się nam wydaje, ale psycholodzy są przeciwnego zdania
(Velmans 1991).
Widać ciągły postęp w symulacjach działań inteligentnych oraz symulacjach funkcji mózgu.
Brak jest konkretnych ograniczeń dotyczących możliwości komputerów.
Chiński pokój dotyczy "rozumienia", ale bez precyzowania co to pojęcie oznacza i jakie warunki należy spełnić by uznać, że system rozumie; oparty jest na złej intuicji "potrafię zaobserwować czym jest rozumienie".
Searle podkreśla, że stany mózgu są fizycznymi stanami, a nie tylko przepływem informacji.
Symulacja wibracji membrany nie czyni wprowadza programu w wibracje, a symulacja turbulencji atmosferycznych nie wywoła burzy.
Symulacja to nie rzeczywistość. Mapa to nie terytorium!
Zasada "niezmienniczości organizacyjnej" jest podstawą wielu rozumowań w filozofii umysłu:
Funkcje systemu nie ulegną zmianie jeśli tylko wzorce oddziaływań determinujące sposób przetwarzania informacji przez system nie ulegną zmianie.
Jeśli qualia (wrażenia) nie są funkcjami tylko realnymi stanami mózgopodobnej materii, które są oceniane przez porównanie z zapamiętanymi stanami, to można je przypisać mózgom (sprzętowi) aktualizującym informację, a nie samym abstrakcyjnym procesom przetwarzania informacji.
Przekonanie, że kolory i dźwięki są realnymi wrażeniami może powstać w systemie sztucznym opartym na mózgopodobnych zasadach. Jeśli taki system reaguje, analizuje, kojarzy, zdaje sobie sprawę z kolorów i różnych aspektów dźwięku, może je komentować, to musi wiedzieć, że są i traktować je jak my traktujemy wrażenia.
Symulacja wrażeń to kwestia doskonałości technicznej odtwarzania takich stanów, co prowadzi do odpowiednich reakcji systemu.
Zła aproksymacja prowadzi do karykatury wrażeń, tak jak np. dźwięk mowy lub obraz twarzy z niewielką kompresją wydaje się doskonały, ale przy dużej kompresji nie przypomina oryginału.
Częste eksperymenty myślowe oparte na funkcjonalizmie: zamieńmy część mózgu stopniowo na kawałki krzemu.
Jeśli elementy sztuczne odpowiednio oddziałują z biologicznymi to niczego nie zauważymy.
Jednak identyczność funkcjonalna na poziomie molekuł to w istocie identyczność atomów.
Białkowe receptory neuronów i neurotransmitery nie da zastąpić w idealny sposób krzemem zachowując te same relacje.
Identyczność funkcji pociąga za sobą identyczność budowy fizycznej!
Funkcjonalizm na poziomie molekularnym jest słuszny tylko w przybliżonym sensie, a nie w sensie absolutnym, możemy odtworzyć tylko funkcje podobne, ale nie identyczne.
Właściwe pytanie to: czy aproksymacja działania umysłu prowadzi tylko do sztucznej inteligencji, czy do czegoś, co skłonni bylibyśmy nazwać sztucznym umysłem?
Odpowiedź zależy od tego, co uznamy za umysł, na ile ma być podobny do ludzkiego.
Na ile podobne do mojego są inne umysły? Im bardziej odmienna kultura i im bardziej odmienny gatunek tym mniej.
Projekcja naszej własnej intencjonalności spowoduje, że większość ludzi zaakceptuje robota jako partnera.
Teoria obliczalności i rozważania o możliwościach komputerów opiera się tylko na fizyce klasycznej.
Każdy system fizyczny to program obliczeniowy, a wynik eksperymentu to wynik obliczeń.
Przykłady: zasada minimalnego działania dla układów mechanicznych, obliczenia wykonywane za pomocą DNA.
Ewolucja w czasie układu fizycznego to proces obliczeniowy.
Komputer kwantowy może symulować ewolucję prawdziwych systemów, komputer klasyczny tylko w przybliżeniu.
Zagadnienia "obliczalne" to te, które są zgodne z prawami fizyki.
Wniosek: filozofia kognitywna powinna opierać się na fizyce, a nie automatach Turinga.
Klasyczne obliczenia pozwalają na dokładny opis zachowania się neuronów przejawiającego się w ich własnościach bioelektrycznych, generowanych impulsach i zmianach morfologicznych.
Zbieżność modeli neuronów w środowisku biochemicznym do właściwego zachowania jest wątpliwa.
Nie dostrzegamy ruchu godzinnych wskazówek zegara, ale zmiany się kumulują.
Wymiana części mózgu na krzemową zmieni sposób odczuwania wrażeń.
Dopiero informacja + system aktualizujący informację może być modelem umysłu!
Monistyczne koncepcje traktujące umysł jako substancję, a nie jako emergentną funkcję skomplikowanego systemu, nie pozwalają na robienie modeli poznawczych, na analize eksperymentów, nie są więc poznawczo przydatne.
Pora powiązać filozofię umysłu z neurobiologią.
IQ i narodowy test na inteligencję.
The Psychologist jest popularnym pismem na temat psychologii, w którym poruszano zagadnienia mitów o słynnych eksperymentach w psychologii.
Nieporozumienia wynikające ze statystyki - D. Huck.
10 mind myth
Następny wykład | Moodle - Strony Wiki | W. Duch, Wstęp do kognitywistyki - spis treści | mapa wykładów.