Kurzweil: książka, która podała daty

Rycina pokazuje kometę Donatiego widzianą przez kilkanaście kolejnych nocy: każdy panel to jedna obserwacja, ułożone razem dają tor.

Cała książka Raya Kurzweila jest takim panelem obok panela. Zbiera szeregi pomiarów, układa je na wykresie i przedłuża linię. Pytanie, które warto sobie zadać, brzmi: jak daleko wolno tak przedłużać - i to jest pytanie, na które książka odpowiada zbyt pewnie.

Argument

Krok pierwszy: prawo przyspieszających zwrotów. Postęp technologiczny nie jest liniowy, tylko wykładniczy, bo każde pokolenie narzędzi skraca czas potrzebny na zbudowanie następnego. Kurzweil pokazuje to na kilkudziesięciu szeregach danych: mocy obliczeniowej na dolara, gęstości pamięci, kosztu sekwencjonowania genomu.

Krok drugi: ludzka intuicja jest liniowa. Dlatego wszyscy systematycznie nie doceniają, gdzie będziemy za dwie dekady - i dlatego eksperci mylili się co do tempa w tę samą stronę.

Krok trzeci: ekstrapolacja. Skoro tempo jest znane, to da się policzyć, kiedy moc obliczeniowa zrówna się z mózgiem, a potem z całą ludzkością. Stąd biorą się konkretne daty.

Krok czwarty: zbieżność. Genetyka, nanotechnologia i robotyka mają się połączyć: naprawimy biologię, potem ją przekroczymy, a wreszcie przeniesiemy umysł na trwalszy nośnik.

Co się sprawdziło

Tempo w informatyce. Wykładniczy wzrost mocy obliczeniowej trwał dalej po 2005 roku, choć przez inne mechanizmy niż wcześniej - przez procesory graficzne i układy specjalizowane, nie przez samo zagęszczanie tranzystorów.

Rola danych. Kurzweil trafnie wskazał, że przełom w sztucznej inteligencji przyjdzie z uczenia na ogromnych zbiorach, a nie z ręcznego wpisywania reguł. W 2005 roku było to stanowisko mniejszościowe.

Spadek kosztu sekwencjonowania. Jeden z jego szeregów okazał się wręcz zaniżony.

Co się nie sprawdziło

Biologia nie poszła za informatyką. To jest najważniejszy zarzut i dotyczy sedna książki. Kurzweil zakładał, że tempo z elektroniki przeniesie się na medycynę - że skoro liczymy szybciej, to i leczyć będziemy szybciej. Nie przeniosło się. Badanie kliniczne trwa tyle, ile trwa; organizm nie przyspiesza.

Analiza danych demograficznych z 2024 roku pokazuje wręcz, że w krajach o najdłuższym życiu tempo wydłużania spowalnia. To jest wynik przeciwny do przewidywań z tej tradycji i pochodzi z danych, nie z rozumowania.

Daty. Podane w książce terminy dla poszczególnych etapów okazały się dla części zjawisk zbyt optymistyczne, dla innych - zaskakująco trafne w warstwie sprzętowej. Problem polega na tym, że z góry nie było wiadomo, które będą które, a książka podaje je z tą samą pewnością.

Milcząca przesłanka. Wykresy pokazują wydajność sprzętu. Wniosek dotyczy zdolności umysłowych. Między jednym a drugim brakuje kroku, którego nikt do dziś nie wykonał - to jest ta sama luka, o której piszemy przy prawach skalowania: strata to nie zdolność, a moc obliczeniowa to nie rozumienie.

Vinge a Kurzweil

Zestawienie jest pouczające i tłumaczy, dlaczego pojęcie osobliwości ma dziś złą prasę.

Vinge w 1993 roku napisał: po pewnym progu przewidywanie przestaje działać, podaję przedział, mogę się mylić.

Kurzweil dwanaście lat później napisał: próg wypada wtedy i wtedy, oto wykres.

Pierwsze jest tezą o granicach poznania. Drugie jest prognozą - i jako prognoza podlega ocenie, której pierwsze nie podlega. Cała późniejsza reputacja tego pojęcia, łącznie z kpinami, wzięła się z drugiego podejścia, nie z pierwszego.

Po co ją dziś czytać

Dla trzech rzeczy.

Dla materiału. Zebrane w niej szeregi danych są cenne same w sobie i rzadko gdzie indziej zestawione tak systematycznie.

Dla lekcji o ekstrapolacji. Ta sama książka pokazuje, że przedłużanie krzywej działa w dziedzinie, w której zna się mechanizm wzrostu, i zawodzi tam, gdzie mechanizm jest inny. Rozróżnienie tych dwóch przypadków z góry jest trudne - i to jest właściwy morał, nie „Kurzweil się mylił”.

Dla wpływu. Znaczna część dzisiejszej retoryki firm technologicznych - włącznie ze słownictwem o wykładniczym wzroście - pochodzi wprost stąd. Kto chce zrozumieć, skąd bierze się ton, w jakim mówi się dziś o AI, znajdzie źródło w tej książce.