Dlaczego chwytanie jest trudniejsze niż rozmowa

Żelazna ręka z ryciny pochodzi z XVI wieku i jest pokazana dwa razy: z zewnątrz i w przekroju. Widać, ile mechaniki potrzeba, żeby palce się zamknęły.

Cztery stulecia później zamykanie palców na kubku jest nadal trudniejsze niż napisanie eseju o kubkach.

Skąd bierze się ta różnica

Obserwację nazwaną później paradoksem Moraveca sformułowano w latach osiemdziesiątych, przy okazji rozważań o przyszłości robotyki. Brzmi ona tak: czynności wymagające od człowieka wysiłku umysłowego okazują się dla maszyn stosunkowo łatwe, a te, które wykonujemy bez namysłu, są dla nich skrajnie trudne.

Wyjaśnienie jest ewolucyjne. Rozumowanie abstrakcyjne, szachy, rachunki - to są umiejętności młode, liczone w tysiącach lat, wykonywane powoli i świadomie. Chwytanie, utrzymywanie równowagi, rozpoznawanie kształtu dłonią - to jest dorobek setek milionów lat, wykonywany bez udziału świadomości i przez to niedoceniany.

Maszyna nie ma tego dorobku. Musi zbudować od zera to, co u nas jest wbudowane najgłębiej.

Co się zmieniło ostatnio

Dwa kierunki, oba wychodzące od modeli językowych.

Uziemienie polecenia. Praca z 2022 roku rozwiązała konkretny problem: model językowy potrafi rozpisać polecenie „przynieś mi coś do picia” na kroki, ale nie wie, co robot potrafi wykonać i co jest w zasięgu. Rozwiązanie polega na łączeniu dwóch ocen - prawdopodobieństwa, że dany krok pomaga wykonać polecenie, i prawdopodobieństwa, że robot w ogóle da radę go wykonać w danej sytuacji.

Wspólny model dla widzenia, języka i ruchu. Praca z 2023 roku poszła dalej: ten sam model przetwarza obraz, polecenie i wytwarza polecenia ruchowe traktowane jak kolejne żetony tekstu. Efektem jest przenoszenie wiedzy z sieci na sterowanie - robot potrafi zareagować na obiekt, którego nie było w danych z jego własnych prób.

To jest realny postęp. Warto jednak przeczytać drobny druk: eksperymenty odbywają się w kontrolowanych otoczeniach, na zamkniętym zbiorze czynności, a ocenę prowadzą zespoły, które te modele zbudowały.

Trzy powody, dla których to nadal jest trudne

Danych nie ma i nie da się ich pobrać. Tekstu w internecie są biliony słów. Zapisów tego, jak dłoń styka się z przedmiotem, nie ma nigdzie - trzeba je wytworzyć, robot po robocie, godzina po godzinie.

Świata nie da się cofnąć. Model językowy uczy się na milionach powtórzeń tego samego przykładu. Robot, który stłucze kubek, ma stłuczony kubek. Symulacja pomaga i nie zastępuje rzeczywistości: tarcie, luzy i miękkie materiały odtwarza się źle.

Błąd kosztuje. Zmyślone zdanie da się poprawić. Ruch ramienia w złą stronę uszkadza przedmiot albo człowieka. Wymagana niezawodność jest więc znacznie wyższa niż przy tekście - i to jest wymóg, nie kwestia ambicji.

Dlaczego to jest ważne dla tej dziedziny

Bo koryguje wyobrażenie, jak wygląda postęp.

Przez pół wieku zakładano, że najpierw powstaną roboty wykonujące pracę fizyczną, a rozmowa i twórczość zostaną na końcu jako rzeczy najbardziej ludzkie. Wyszło odwrotnie. Modele piszą teksty i kod, a przenoszenie pudełek nadal wymaga człowieka.

Ma to konsekwencje dla wszystkiego, co piszemy przy maszynach i pracy: pierwsze pod presją znalazły się zawody biurowe, nie fizyczne. Ma też konsekwencje dla opieki, gdzie brakuje właśnie rąk, a nie zdolności językowych.

I ma jedną konsekwencję pojęciową. Rozmowy o AGI toczą się prawie wyłącznie wokół zdolności umysłowych. Tymczasem systemy, które nie mają ciała, nie mają też dostępu do połowy tego, co człowiek wie o świecie - bo tamta wiedza jest w rękach, nie w słowach.

Co z tego wynika

Praktycznie: robot ogólnego przeznaczenia w domu jest dalej, niż wynikałoby z pokazów, i bliżej, niż wynikałoby z ostatnich pięćdziesięciu lat.

Dla przewidywań: paradoks Moraveca jest najlepiej potwierdzoną obserwacją w całej historii tej dziedziny. Warto ją pamiętać przy każdej prognozie, która zakłada, że skoro model coś potrafi w tekście, to zaraz potrafi to samo w świecie.

Żelazna ręka z XVI wieku była urządzeniem mechanicznym, a jej twórca doskonale wiedział, ile mechanizmów potrzeba do zamknięcia palców. Ta wiedza gdzieś po drodze zaginęła - i trzeba było jej dochodzić od nowa.