Turing: pytanie, które zastąpiło pytanie

Rycina przedstawia zamaskowanego pierrota niesionego na barana. Nie wiadomo, kto tu kogo prowadzi ani kto jest kim - widać wyłącznie zachowanie.

Dokładnie na tym polega propozycja, którą Alan Turing złożył w 1950 roku w piśmie filozoficznym „Mind”.

Ruch, który wykonał

Esej zaczyna się od zdania, że pytanie „czy maszyny mogą myśleć” jest zbyt nieostre, żeby zasługiwało na dyskusję. Nie dlatego, że odpowiedź jest oczywista, tylko dlatego, że nie wiadomo, co znaczy „myśleć”.

Zamiast szukać definicji, Turing proponuje podstawienie: zastąpmy pytanie inną, dobrze określoną grą.

W grze biorą udział troje: pytający, człowiek i maszyna. Pytający komunikuje się z obojgiem wyłącznie tekstem i ma odgadnąć, kto jest kim. Pytanie brzmi teraz: czy maszyna poradzi sobie w tej grze tak dobrze jak człowiek?

To jest ruch filozoficzny, nie techniczny, i na tym polega jego siła. Turing nie twierdzi, że gra mierzy myślenie. Twierdzi, że jest to pytanie, na które da się odpowiedzieć, a tamto nie.

Co się w tym eseju najlepiej zestarzało

Odrzucenie sporu o definicje. Osiemdziesiąt lat później dyskusja o AGI wciąż grzęźnie w pytaniu, co znaczy „ogólna” i „inteligencja”. Turing ominął ten problem od razu i do dziś nikt nie zaproponował lepszego obejścia.

Przewidywanie oporu. Turing rozpisuje dziewięć zarzutów, jakie postawią jego propozycji, i odpowiada na każdy. Najciekawszy jest ten, który nazywa zarzutem z głowy w piasku: ludzie odrzucą myślące maszyny nie dlatego, że mają argument, tylko dlatego, że konsekwencje byłyby dla nich nieznośne. Ta część czyta się dziś jak opis dzisiejszej debaty.

Uczenie zamiast programowania. Ostatnia część eseju proponuje, żeby zamiast programować gotowy umysł dorosłego, zbudować umysł dziecka i go uczyć. To jest przewidywanie trafne co do zasady - dzisiejsze modele powstają przez uczenie na danych, nie przez ręczne wpisywanie reguł - choć mechanizm okazał się zupełnie inny.

Co się nie zestarzało dobrze

Przewidywanie na rok 2000. Turing przypuszczał, że pod koniec stulecia maszyna z pamięcią rzędu 10⁹ jednostek oszuka przeciętnego pytającego w pięciominutowej rozmowie w około trzydziestu procentach przypadków. Podaje to wprost jako przypuszczenie, ale liczba weszła do obiegu jako „test Turinga zdany przy 30 procentach” - czego w eseju nie ma.

Rozmiar pamięci. Oszacowanie okazało się zaniżone o rzędy wielkości. To akurat wybaczalne: nikt w 1950 roku nie umiał tego policzyć.

Milczące założenie. Turing zakłada, że zdolność do prowadzenia nieodróżnialnej rozmowy wymaga czegoś w rodzaju rozumienia. Dzisiejsze modele pokazują, że rozmowa i rozumienie rozjeżdżają się bardziej, niż zakładał - potrafią brzmieć wiarygodnie i mylić się co do faktów w tym samym zdaniu.

Dlaczego test został porzucony

Nie z powodu porażki, tylko dlatego, że okazał się mierzyć nie tę rzecz.

Nagradza udawanie. Najskuteczniejsza strategia w tej grze to nie inteligencja, tylko wiarygodne odgrywanie człowieka: literówki, wymijanie pytań, żarty. Program, który udaje nastolatka z ograniczoną znajomością języka, wypada lepiej niż system rozwiązujący równania.

Jest zerojedynkowy. Nie mówi, jak blisko jest system, który testu nie zdał. Dzisiejsze propozycje - jak stopniowana skala poziomów AGI z 2023 roku - próbują to naprawić, dzieląc zdolności na kategorie i poziomy zamiast jednego progu.

Zdolność bez zrozumienia. Model może prowadzić rozmowę nieodróżnialną od ludzkiej i jednocześnie zmyślać nieistniejące publikacje. To nie jest awaria testu; to jest odkrycie, że przesłanka Turinga była za mocna.

Co z tego zostaje

Zostaje metoda, nie kryterium.

Turing pokazał, jak postępować z pytaniem, które jest ważne i nieostre: nie definiować go w nieskończoność, tylko podstawić w jego miejsce coś sprawdzalnego i uczciwie powiedzieć, co się przy tym traci.

Ta sama procedura przydałaby się dziś przy słowach „rozumie”, „rozumuje” i „jest świadomy” - używanych o modelach z pewnością, na jaką nie pozwala żaden pomiar. Turing zaczął od przyznania, że nie wie, co znaczy myśleć.

Osiemdziesiąt lat później to nadal jest najuczciwsze zdanie w całej tej dyskusji.