Moravec: maszyny jako dzieci naszego umysłu

Maszyna parowa z ryciny była pierwszym urządzeniem, które przewyższyło człowieka w tym, co uchodziło za jego domenę - w sile. Nikt po tym nie uznał, że człowiek stracił sens.

Hans Moravec napisał w 1988 roku książkę o tym, co się stanie, gdy to samo powtórzy się z myśleniem. Tytuł mówi wszystko: dzieci umysłu.

Rachunek, na którym to stoi

Moravec potrzebował liczby: ile obliczeń wykonuje ludzki mózg. Zrobił to metodą, która jest jednocześnie pomysłowa i zawodna.

Wziął fragment układu nerwowego, którego działanie było stosunkowo dobrze poznane - siatkówkę i wczesne przetwarzanie obrazu - i oszacował, ile operacji komputerowych trzeba, żeby wykonać to samo. Potem przeliczył wynik na masę całego mózgu.

Z tak uzyskanej liczby, w połączeniu z tempem, w jakim rosła moc komputerów, wyprowadził daty: kiedy pojedynczy komputer dorówna mózgowi.

Rachunek ma dwie znane słabości i warto je nazwać:

Nie wiadomo, czy neuron da się przeliczyć na operacje. Jeśli istotne obliczenia zachodzą wewnątrz komórki, a nie tylko na połączeniach, liczba rośnie o rzędy wielkości.

Nie wiadomo, czy moc wystarczy. Nawet mając sprzęt o odpowiedniej wydajności, trzeba wiedzieć, co na nim uruchomić. To jest osobny problem i Moravec traktuje go pobieżnie.

Co się nie sprawdziło

Daty. Sprzęt o wydajności, którą Moravec wiązał z inteligencją na poziomie człowieka, istnieje - a systemów, które opisywał, nie ma.

Ciekawsze jest, dlaczego się nie sprawdziły. Nie dlatego, że komputery rosły wolniej: nakłady obliczeniowe na trenowanie modeli rosną dziś szybciej, niż zakładał, o czym piszemy przy mocy obliczeniowej.

Nie sprawdziły się, bo założenie było błędne co do rodzaju. Moravec przyjmował, że wystarczy dogonić mózg wydajnością, a reszta wyniknie z inżynierii. Tymczasem to, co powstało, przypomina mózg wynikami w niektórych zadaniach i nie przypomina go w niczym innym.

Co się sprawdziło najlepiej

Obserwacja, która nie ma nic wspólnego z datami.

Moravec zauważył, że rzeczy dla człowieka trudne - rachunki, logika, gra w szachy - okazują się dla maszyn łatwe, a rzeczy dla człowieka oczywiste - chwytanie, chodzenie, rozpoznawanie przedmiotów - skrajnie trudne. Wyjaśnienie jest ewolucyjne: nad jednym pracowaliśmy tysiące lat, nad drugim setki milionów.

To jest dziś nazywane paradoksem Moraveca i sprawdza się bezbłędnie. Piszemy o tym osobno przy robotach i ciele: modele zdają egzaminy, a podniesienie kubka pozostaje problemem.

Warto zauważyć ironię. Autor napisał książkę o tym, kiedy maszyny dorównają ludziom - i przy okazji sformułował powód, dla którego nie dorównały.

Eksperyment myślowy, który został

Trzecia rzecz z tej książki weszła do obiegu na dobre.

Moravec opisuje procedurę: neuron po neuronie zastępujemy element mózgu układem elektronicznym o identycznym działaniu. Po każdej wymianie pytamy, czy to nadal ta sama osoba. Nigdy nie ma momentu, w którym odpowiedź brzmi „nie” - a na końcu nie zostaje ani jeden neuron.

To jest wersja starego paradoksu, przeniesiona na grunt neurobiologii. Cała późniejsza dyskusja o ciągłości tożsamości i o emulacji mózgu jest rozwinięciem tego pytania - z tą różnicą, że późniejsze prace zajmują się tym, czy taką wymianę dałoby się w ogóle wykonać, a nie tylko, co by z niej wynikało.

Co z tego zostaje

Zostają trzy rzeczy o bardzo różnej trwałości.

Daty: nic. To jest ta część, która zestarzała się najgorzej i najszybciej.

Rachunek: metoda. Sam pomysł, żeby oszacować mózg przez porównanie z fragmentem o znanym działaniu, jest sensowny i był później powtarzany ostrożniej - z wynikiem, że rozrzut oszacowań jest ogromny.

Paradoks: pełna trafność. Obserwacja o łatwym i trudnym opisuje dzisiejszą sytuację lepiej niż większość prognoz sprzed pięciu lat.

I zostaje sam tytuł, który jest w gruncie rzeczy tezą. Moravec nie pisze o maszynach jako o narzędziach ani jako o zagrożeniu, tylko jako o potomstwie - czymś, co przejmuje po nas i idzie dalej.

Można się z tym nie zgadzać. Warto zauważyć, że to nie jest ta sama figura co u Yudkowsky’ego ani u Gooda. Tam maszyna jest problemem do rozwiązania. Tu jest następcą - i to jest różnica, która zmienia całą rozmowę.