Ryzyko biologiczne: spór o eksperyment, który już był

Strój na rycinie był pierwszym w historii sprzętem ochrony osobistej: skórzany płaszcz, rękawice, maska z dziobem wypełnionym ziołami. Opierał się na całkowicie błędnej teorii - że zarazę przenosi cuchnące powietrze - a mimo to częściowo działał, bo przypadkiem tworzył barierę fizyczną.

To jest dobre wprowadzenie do tematu, w którym intuicja regularnie zawodzi, a decyzje trzeba podejmować przed rozstrzygnięciem sporu.

Co się stało w 2011 roku

Wirus ptasiej grypy H5N1 zabija znaczny odsetek zakażonych ludzi i nie przenosi się między nimi drogą powietrzną. To drugie jest jedynym powodem, dla którego nie wywołał pandemii.

Dwa zespoły - w Holandii i w Stanach Zjednoczonych - postanowiły sprawdzić, ilu zmian trzeba, żeby tę barierę przekroczyć. Odpowiedź brzmiała: niewielu. Uzyskany wariant przenosił się drogą powietrzną między fretkami, zwierzętami używanymi jako model ludzkiej grypy.

Cel był obronny: skoro wiemy, które zmiany są groźne, możemy je wyłapywać w próbkach terenowych i reagować wcześniej.

Dlaczego wstrzymano publikację

Amerykański komitet doradczy zalecił, żeby prace ukazały się bez szczegółów metodycznych. To był precedens: po raz pierwszy chodziło o ryzyko wynikające z samej informacji, a nie ze sposobu jej zdobycia.

Nastąpiło dobrowolne moratorium na tego rodzaju badania, gorąca debata w środowisku i po roku publikacja pełnych prac - po zmianie stanowiska komitetu.

Wnioski, które z tej sprawy wyciągnięto, są do dziś aktualne w każdej dziedzinie o podwójnym zastosowaniu:

• Recenzja naukowa nie jest oceną ryzyka. Recenzent sprawdza, czy wynik jest prawdziwy, nie czy jest bezpieczny do ogłoszenia.
• Ograniczenie publikacji jest trudne technicznie. Wystarczy jeden wyciek albo jedna niezależna replikacja, żeby wiedza była w obiegu.
• Nie ma organu o zasięgu globalnym. Amerykański komitet doradzał amerykańskim agencjom; holenderski zespół podlegał innemu prawu.

Dlaczego to wraca właśnie teraz

Bo próg wejścia opada i to jest jedyna rzecz, która w tym sporze faktycznie się zmieniła.

Metody edycji genomu, które w 2011 roku wymagały specjalistycznego laboratorium, są dziś podstawowym narzędziem, a syntezę fragmentów DNA można zamówić. Dochodzi do tego pytanie nowe: czy modele językowe ułatwiają zestawienie rozproszonej wiedzy w instrukcję.

Odpowiedź na to ostatnie pytanie jest dziś spekulatywna po obu stronach. Jedni twierdzą, że model skraca drogę od zamiaru do procedury; drudzy - że wąskim gardłem nigdy nie była wiedza, tylko sprzęt, materiały i umiejętności laboratoryjne, których nie da się przeczytać. Rzetelnych badań empirycznych na ten temat jest niewiele i większość prowadzą firmy budujące te modele.

Trzy sposoby regulowania, każdy z inną wadą

Kontrola dostępu do materiałów. Firmy syntezujące DNA sprawdzają zamówienia pod kątem groźnych sekwencji. Skuteczne wobec zamawiającego z zewnątrz, bezużyteczne wobec laboratorium, które ma własny sprzęt.

Kontrola publikacji. Zawodzi z powodów opisanych wyżej i uderza w naukę otwartą, która jest głównym mechanizmem wykrywania błędów.

Kontrola laboratoriów. Najskuteczniejsza i najtrudniejsza: wymaga inspekcji, rejestrów i uprawnień, których żadne ciało międzynarodowe nie ma. Konwencja o zakazie broni biologicznej nie przewiduje mechanizmu weryfikacji.

Warto zestawić to z tym, jak potraktowano ryzyko w sztucznej inteligencji: tam Unia zdecydowała się na zakazy określonych zastosowań, egzekwowane przez organy krajowe. W biologii odpowiednika takiego rozporządzenia nie ma - i to jest różnica, o której w rozmowie o ryzyku egzystencjalnym mówi się zbyt rzadko.

Co z tego wynika

Dla oceny ryzyka egzystencjalnego: biologia jest dziedziną, w której argument o zaniedbaniu wypada najmocniej. W przeciwieństwie do rozważań o superinteligencji mamy tu udokumentowane zdarzenie: eksperyment wykonano, wynik uzyskano, spór o publikację odbył się naprawdę.

Dla oceny samoregulacji: kolejny raz widać to samo, co przy edycji linii zarodkowej - dobrowolne moratorium działa dopóty, dopóki wszyscy chcą. Wystarczy jeden zespół, który uzna inaczej.

Dla czytelnika: przy każdym doniesieniu o „stworzeniu groźnego wirusa w laboratorium” warto sprawdzić trzy rzeczy - jaki organizm, jaki gatunek zwierzęcia w badaniu i czy zmiana dotyczyła zaraźliwości, czy śmiertelności. To są trzy różne rzeczy i tylko pierwsza z nich decyduje o skali ryzyka.