Co naprawdę znaczy „otwarty model"

Rycina przedstawia maszynę parową w przekroju: ściana budynku zdjęta, widać kotły, wahacz i każdy przewód. Rysunek techniczny tego rodzaju jest obietnicą - pokazuję ci, jak to działa, sprawdź sam.

Przy modelach językowych ta sama obietnica bywa składana słowem „otwarty”. Warto sprawdzić, ile z przekroju naprawdę narysowano.

Co można udostępnić

Model to nie jeden plik. Na to, żeby ktoś mógł go zrozumieć, powtórzyć albo bezpiecznie użyć, składa się co najmniej sześć rzeczy:

1. Wagi - liczby, które są wynikiem treningu.
2. Architektura i kod pozwalający model uruchomić.
3. Dane treningowe albo przynajmniej ich dokładny opis.
4. Kod treningu i parametry procesu.
5. Dane z etapu dostrajania: oceny ludzkie, zasady, zbiory instrukcji.
6. Dokumentacja: karty modelu, wyniki testów, znane ograniczenia, licencja.

Zdanie „model jest otwarty” pada dziś zwykle wtedy, gdy udostępniono wyłącznie punkt pierwszy - i to na licencji, która ogranicza zastosowania komercyjne albo liczbę użytkowników.

Co pokazał przegląd

W 2024 roku ukazała się praca, która zestawiła modele deklarowane jako otwarte i oceniła każdy według kilkunastu wymiarów: dostępność wag, danych, kodu, dokumentacji, licencji i publikacji naukowej.

Wynik był taki, jak można się spodziewać po każdej dziedzinie bez definicji: rozrzut jest ogromny. Część projektów udostępnia niemal wszystko łącznie z danymi. Część publikuje wagi i nazywa to otwartym źródłem, mimo że nie da się ani powtórzyć treningu, ani sprawdzić, na czym model się uczył.

Autorzy nazwali to zjawisko otwartościowym praniem: korzystaniem z prestiżu wolnego oprogramowania bez ponoszenia jego kosztów.

Ważne zastrzeżenie: to jest ocena według kryteriów zaproponowanych przez autorów, nie pomiar. Ktoś inny mógłby dobrać wymiary inaczej. Sam fakt rozrzutu jest jednak trudny do podważenia.

Dlaczego to nagle stało się kwestią prawną

Bo akt o sztucznej inteligencji przewiduje odrębne traktowanie modeli udostępnianych na wolnych i otwartych licencjach. Część obowiązków dokumentacyjnych i informacyjnych jest przy nich złagodzona, przy zachowaniu wymogów tam, gdzie ryzyko jest systemowe.

Konsekwencja jest prosta i niezamierzona: na nazwaniu modelu otwartym da się zaoszczędzić. Kwalifikacja przestaje być kwestią kultury inżynierskiej, a staje się kwestią zgodności - i pojawia się zachęta, żeby ją naciągać.

To jest ten sam mechanizm, który znamy z innych dziedzin: gdy etykieta zaczyna coś znaczyć w przepisach, natychmiast zaczyna być używana szerzej, niż powinna.

Spór, którego nie da się rozstrzygnąć danymi

Za otwartością. Umożliwia niezależne badania nad bezpieczeństwem, ogranicza zależność od kilku firm, pozwala małym zespołom i uczelniom pracować z tym, co dziś jest poza ich zasięgiem. Bez niej cała interpretowalność zostaje w rękach producentów, którzy oceniają sami siebie.

Przeciw. Udostępnionych wag nie da się wycofać. Zabezpieczenia wbudowane na etapie dostrajania da się usunąć w kilkanaście minut na przeciętnym sprzęcie, a odpowiedzialność rozmywa się na tysiące osób, które model pobrały.

Obie strony mają rację w części sprawdzalnej i żadna nie ma danych o skali. Przy ryzyku biologicznym opisujemy dokładnie ten sam spór, tylko o publikowanie metod - i tam też nie został rozstrzygnięty.

Praktyczna zasada

Przy każdym „otwartym modelu” warto sprawdzić trzy rzeczy - zajmuje to dwie minuty i rozstrzyga więcej niż cały komunikat prasowy:

1. Czy licencja jest wolna? Ograniczenie liczby użytkowników albo zakazu zastosowań komercyjnych oznacza, że nie jest.
2. Czy wiadomo, na czym model się uczył? Jeśli nie, nie da się ocenić ani uprzedzeń, ani prawa autorskiego, ani zanieczyszczenia zbiorów testowych.
3. Czy da się powtórzyć trening? Bez kodu i parametrów odpowiedź brzmi: nie, i wtedy „otwartość” znaczy tyle, co możliwość pobrania gotowego pliku.

Trzy odpowiedzi „nie” opisują sytuację, w której dostajemy działającą maszynę bez rysunku technicznego. Można jej używać. Nie można jej sprawdzić.