Lem: przewidział to, czego nie było jak zbudować

W 1964 roku w Krakowie ukazuje się książka, w której autor rozważa, co się stanie, gdy ludzkość zacznie sama projektować własną biologię, i jak wyglądałaby rzeczywistość generowana komputerowo, do której człowiek podłącza zmysły. Autor nie ma dostępu do laboratorium, komputera ani zagranicznych czasopism w rozsądnym terminie. Ma bibliotekę i czas.

Cztery lata wcześniej dwaj Amerykanie ukuli słowo „cyborg”. Sześć lat później Alvin Toffler napisze o szoku przyszłości. Słowo „transhumanizm” w dzisiejszym znaczeniu wejdzie do obiegu dopiero w latach dziewięćdziesiątych.

Co dokładnie zrobił

Summa technologiae nie jest zbiorem przepowiedni. Jest próbą uporządkowania pytania, na które nikt wtedy nie odpowiadał: co się dzieje, gdy technologia przestaje służyć człowiekowi, a zaczyna go przebudowywać.

Cztery wątki, które ta książka otwiera, są dziś osobnymi dziedzinami:

• Autoewolucja. Człowiek jako gatunek, który przejmuje kontrolę nad własną biologią - z uwagą, że nie ma żadnego powodu, by wynik był lepszy od punktu wyjścia. To jest dokładnie ten spór, który dziś toczy się wokół edycji genomu.
• Hodowla informacji. Skoro wiedzy przybywa szybciej, niż ludzie zdążą ją przeczytać, trzeba będzie uprawiać informację jak roślinę, zamiast ją pisać. Dziś nazywa się to inaczej i działa inaczej, ale problem jest ten sam.
• Fantomatyka. Rzeczywistość podawana wprost do zmysłów, nieodróżnialna od zwykłej. Lem rozważa nie samą technikę, lecz konsekwencję: skąd człowiek w środku ma wiedzieć, że jest w środku.
• Granice rozumu. Czy istnieje pułap złożoności, powyżej którego umysł - dowolny, także sztuczny - przestaje ogarniać własne wytwory. To jest wątek, który wróci u niego siedemnaście lat później.

Golem XIV, czyli superinteligencja przed nazwaniem

W 1981 roku Lem publikuje wykłady maszyny, która przekroczyła poziom swoich konstruktorów i wyjaśnia im - grzecznie, z dystansem - dlaczego rozumowo się z nią nie zrównają.

Zbieżność z późniejszą literaturą o superinteligencji jest uderzająca, ale różnica jest ważniejsza. Golem nie chce zawładnąć światem, nie zamienia planety w spinacze i nie jest zagrożeniem w żadnym sensie, jaki dziś rozważa się w pracach o ryzyku. Jest po prostu nieporównywalny - i cała trudność, którą Lem opisuje, polega na tym, co robi się z rozmówcą, którego nie da się sprawdzić.

To jest pytanie, do którego badania nad zgodnością celów doszły dopiero wtedy, gdy pojawiły się systemy zdolne odpowiadać na pytania lepiej niż pytający.

W czym się mylił

Sylwetka bez tej sekcji byłaby laurką, a portal nie po to referuje krytykę cudzych tez, żeby oszczędzać własnych patronów.

Tempo. Lem, jak wszyscy piszący o przyszłości, brał zmianę za szybszą, niż okazała się w częściach wymagających biologii. Pisał o hodowaniu organizmów w czasie, gdy nie znano jeszcze struktury większości białek.

Komputery. Rozumiał je jako urządzenia do przetwarzania symboli i rozumowania regułami. Droga, którą sztuczna inteligencja faktycznie poszła - statystyka na ogromnych zbiorach danych, bez jawnych reguł - nie jest tą, którą zakładał. To zresztą pomyłka całego pokolenia, nie jego osobista.

Sieć. Przewidział rosnący zalew informacji i konieczność jej automatycznego przetwarzania. Nie przewidział, że dostęp będzie powszechny i że problemem stanie się nie brak wiedzy, lecz odróżnienie jej od podróbek.

Dlaczego nie ma go w kanonie

Zachodnie zestawienia historii myśli o przekraczaniu kondycji ludzkiej idą zwykle tak: Haldane, Bernal, Huxley, Ettinger, Drexler, Moravec, More, Vinge, Bostrom. Lema w nich nie ma prawie nigdy.

Powód jest prozaiczny i wart zapamiętania: przez pół wieku nie było czego czytać. Fragmenty i omówienia krążyły, pełne wydanie angielskie pojawiło się w 2013 roku. Dla porównania: gdy w 2008 roku powstawał oksfordzki raport o emulacji mózgu, jego autorzy nie mieli fizycznej możliwości sięgnięcia po odpowiedni rozdział Lema, o ile nie czytali po polsku.

To nie jest teoria spiskowa o pomijaniu Polaków. To jest zwykła bariera językowa, działająca w jedną stronę - i jedyny wniosek praktyczny brzmi: tłumaczenia decydują o tym, kto trafia do kanonu, a nie kolejność publikacji.

Co z tego wynika

Lem jest w tej dziedzinie atutem pierwszej klasy i jednocześnie ostrzeżeniem.

Atutem, bo napisał o autoewolucji dwie dekady przed powstaniem ruchu, który uczynił z niej program - i zrobił to precyzyjniej niż większość późniejszych manifestów.

Ostrzeżeniem, bo nie był entuzjastą. Odmawiał wiary, że kierunek zmiany jest z góry dobry, i konsekwentnie pokazywał, że możliwość techniczna nie rozstrzyga niczego w sprawie sensu. Ta postawa - poważne traktowanie tematu przy odmowie entuzjazmu - jest dokładnie tym, czego temu tematowi w Polsce brakuje najbardziej.

Do wątków, które otworzył, wracamy osobno: przy emulacji mózgu, przy singularności i przy edycji genomu.