Drugi międzynarodowy raport o bezpieczeństwie AI

Co się stało. Ukazała się druga edycja International AI Safety Report - przeglądu stanu wiedzy o zdolnościach i ryzykach systemów sztucznej inteligencji ogólnego przeznaczenia. Raport napisało ponad stu niezależnych ekspertów pod kierunkiem Yoshuy Bengio, laureata Nagrody Turinga, a nad całością czuwał panel doradczy z nominacji ponad trzydziestu państw i organizacji międzynarodowych. Ryzyka porządkuje w trzech grupach: złośliwe użycie (deepfake’i, cyberataki), wadliwe działanie (zawodność, utrata kontroli) oraz ryzyka systemowe (wypieranie pracy, nadmierne poleganie na automatyzacji).

Dlaczego to ma znaczenie. To jest dziś najbliższy odpowiednik tego, czym dla klimatu są raporty IPCC: dokument, który nie jest ani komunikatem firmy, ani stanowiskiem rządu, i który wolno cytować obu stronom sporu. Dla dziedziny, w której większość liczb pochodzi od podmiotów mających interes w konkretnej odpowiedzi, jest to zmiana instytucjonalna, nie tylko kolejna publikacja.

Istotne jest też, że raport rozdziela zdolności od ryzyk, a ryzyka od środków zaradczych. To jest dokładnie ta struktura, której brakuje w publicystyce, gdzie „AI jest niebezpieczne” bywa jednym zdaniem obejmującym deepfake’i i ryzyko egzystencjalne naraz.

Czego jeszcze nie wiemy. Raport jest przeglądem stanu wiedzy, a nie źródłem nowych wyników - jego wartość zależy od jakości prac, które podsumowuje, a te w znacznej części powstają w firmach budujących oceniane systemy. Nie wiadomo także, czy dokument przełoży się na cokolwiek poza cytowaniami: pierwsza edycja z 2025 roku poprzedzała szczyt w Paryżu, ale związek między jej wnioskami a przyjętymi tam ustaleniami trudno wykazać. Powyższe podajemy za podsumowaniem raportu, nie za jego pełnym tekstem - do samego dokumentu wrócimy przy okazji tekstu o ocenie zdolności modeli.