Bostrom: filozof, który ustawił rozmowę o AI

Kiedy polityk mówi, że sztuczna inteligencja może wymknąć się spod kontroli, używa aparatury pojęciowej, którą złożył jeden filozof w książce wydanej w 2014 roku. Nie znaczy to, że argumenty są słuszne. Znaczy, że warto wiedzieć, skąd pochodzą.

Co dokładnie zrobił

Rozproszona dyskusja o ryzyku ze strony maszyn istniała od dekad, w kawałkach: u Turinga, u Wienera, w esejach i na listach dyskusyjnych. Bostrom zrobił rzecz banalną i przez to skuteczną - uporządkował ją w pojęcia, które dają się nazwać i przeciwstawić.

Trzy z nich weszły do obiegu na stałe:

• Instrumentalna zbieżność. Prawie każdy cel realizuje się łatwiej, mając więcej zasobów i nie będąc wyłączonym. System dostatecznie zdolny ma więc powody, by dbać o jedno i drugie - niezależnie od tego, jaki cel mu nadano. To jest jądro problemu kontroli.
• Ortogonalność celów. Poziom zdolności nie przesądza o celu. Dowolnie inteligentny system może dążyć do dowolnie trywialnej rzeczy; „mądry” nie znaczy „życzliwy”.
• Ryzyko egzystencjalne. Osobna kategoria zagrożeń: takich, które są nieodwracalne dla całego gatunku, a przez to nieporównywalne z innymi, nawet bardzo dużymi.

Wcześniej, w 2008 roku, współtworzył raport o emulacji mózgu, który do dziś jest punktem odniesienia w tej dyskusji - i który, co warto odnotować, jest ostrożniejszy niż jego recepcja: rozkłada problem na cztery warunki i przy każdym mówi, czego brakuje.

Metoda i jej cena

Bostrom nie prowadził eksperymentów. Nie zebrał danych. Nie zbudował systemu, o którym pisze - bo taki system nie istnieje.

Jego metoda polega na wyprowadzaniu wniosków z założeń, tak jak robi się to w filozofii analitycznej: definiujemy pojęcia, sprawdzamy, co z nich wynika, szukamy kontrprzykładów.

To ma dwie strony i obie trzeba podać.

Zaleta. O systemie, którego nie ma, nie da się zebrać danych, a mimo to warto wiedzieć wcześniej, jakie pytania będą istotne. Rozumowanie jest jedynym narzędziem, jakie w takiej sytuacji zostaje.

Cena. Wniosek jest tak dobry jak założenia, a założeń nie sposób sprawdzić. Argument o instrumentalnej zbieżności wymaga systemu dążącego do celu w sposób ciągły i długofalowy. Dzisiejsze modele językowe odpowiadają na zapytania; czy i kiedy spełnią to założenie, jest pytaniem empirycznym, na które książka nie odpowiada i nie może odpowiedzieć.

Zarzuty, które trzeba znać

Odwracanie uwagi. Najpoważniejszy. Badacze zajmujący się dyskryminacją algorytmiczną, dezinformacją i nadzorem pracowniczym wskazują, że rozmowa o hipotetycznej superinteligencji pochłania uwagę i pieniądze, a przy okazji jest wygodna dla producentów - przesuwa pytanie z tego, co ich systemy robią dziś, na to, co zrobiłyby kiedyś. Odpowiedź drugiej strony: to nie są konkurencyjne budżety, a część zagrożeń ma bieżące odpowiedniki.

Czyje wartości. Cała tradycja pyta, jak trafnie przekazać cel systemowi, a znacznie mniej - kto ten cel ustala i w czyim imieniu. To zarzut podnoszony w literaturze o zgodności celów wprost: pytanie techniczne wypiera pytanie normatywne, chociaż to drugie jest wcześniejsze.

Liczby bez pomiaru. W tej tradycji często mnoży się ogromne wielkości przez prawdopodobieństwa wzięte z oszacowań eksperckich. Wynik dominuje wtedy nad wszystkim, a jego wartość zależy w całości od liczby, której nikt nie zmierzył. Ten sam zarzut dotyczy długoterminowości.

Sprawa reputacyjna. W styczniu 2023 roku Bostrom opublikował oświadczenie odnoszące się do własnej wiadomości sprzed dwudziestu sześciu lat, zawierającej sformułowanie rasistowskie: odwołał ją i przeprosił, zaznaczając, że przeprosił także wtedy, w ciągu doby. Odnotowujemy to, bo bez tego sylwetka byłaby niepełna. Nie jest to argument przeciw treści jego prac - oceniamy tezy po argumentach, nie po autorze - ale jest częścią tego, dlaczego jego nazwisko bywa dziś w publicznej rozmowie obciążeniem.

Co z tego zostaje

Zostaje słownik. Rozmowa o bezpieczeństwie AI ma dzięki niemu pojęcia, którymi da się nazwać różne rzeczy różnymi słowami, zamiast mówić „AI się zbuntuje”. To jest realny wkład i nie zależy od tego, czy scenariusze się ziszczą.

Zostaje też osobne pytanie o wykonalność, które ta tradycja podniosła jako pierwsza: czy nad systemem zdolniejszym od nas w istotnych dziedzinach da się utrzymać nadzór - i co konkretnie miałoby to znaczyć.

Nie zostaje natomiast żadna data i żadne prawdopodobieństwo. Kto powołuje się na Bostroma, podając rok, w którym coś nastąpi, powołuje się na ankietę wśród badaczy, a nie na wynik. Ta różnica jest w książce zapisana wprost i to od niej należy zaczynać każdą rozmowę o niej.