Kiedy obraz przestaje być świadectwem

Karykatura Gillraya z 1795 roku przedstawia damę przed lustrem, w którym odbicie nie zgadza się z oryginałem. Żart był wtedy o modzie. Dziś czyta się inaczej: wizerunek przestał odpowiadać temu, co przed nim stoi.

Jak dobrze ludzie to rozpoznają

Badanie opublikowane w 2022 roku sprawdziło to na dużej grupie uczestników. Wyniki, w kolejności:

• Ludzie bez pomocy - skuteczność ledwie powyżej losowej.
• Program do wykrywania - lepiej niż ludzie.
• Ludzie z podpowiedzią programu - najlepiej ze wszystkich układów.

Trzy obserwacje z tego badania, które warto zapamiętać:

Pewność nie idzie w parze z trafnością. Uczestnicy przekonani o swojej ocenie mylili się równie często jak niepewni.

Podpowiedź programu pomaga, ale i szkodzi. Gdy program się mylił, część uczestników zmieniała poprawną odpowiedź na błędną. Zaufanie do narzędzia bywa większe niż jego skuteczność.

Materiał był stary. Badanie korzystało z nagrań z konkursu detekcji sprzed kilku lat. Jakość generowania od tego czasu wyraźnie wzrosła, więc wynik dla ludzi jest dziś prawdopodobnie gorszy, a nie lepszy.

Co mówi prawo

Akt o sztucznej inteligencji nakłada obowiązki przejrzystości. Najkrócej:

• Treść wygenerowana lub zmanipulowana przez system AI ma być oznaczona w sposób nadający się do odczytu maszynowego.
• Materiał, który przedstawia osoby, zdarzenia lub miejsca w sposób łudząco podobny do rzeczywistości, ma być ujawniony jako wygenerowany, z wyjątkami dla twórczości artystycznej i satyry, gdzie ujawnienie następuje w sposób nieprzeszkadzający w odbiorze.
• Użytkownik ma wiedzieć, że rozmawia z systemem AI, jeśli nie jest to oczywiste.

Od sierpnia 2026 w Polsce jest też komu to zgłosić: ustawa o systemach AI wskazuje organ nadzoru i tryb skargi.

Ograniczenie jest oczywiste i trzeba je podać razem z przepisem: obowiązek oznaczania obciąża tego, kto działa zgodnie z prawem. Osoba tworząca fałszywe nagranie w celu oszustwa nie oznaczy go, tak jak fałszerz nie podpisuje falsyfikatu.

Szkoda, o której mówi się najmniej

Publiczna rozmowa skupia się na jednym scenariuszu: ktoś zobaczy fałszywe nagranie i uwierzy.

Poważniejszy jest scenariusz odwrotny. Gdy wszyscy wiedzą, że nagranie da się wygenerować, prawdziwe nagranie przestaje cokolwiek dowodzić. Osoba przyłapana na czymś kompromitującym mówi: to deepfake - i nie musi tego udowadniać, wystarczy, że jest to możliwe.

Skutek jest podwójny:

• Fałsz zyskuje, bo można go rozpowszechniać.
• Prawda traci, bo można ją zakwestionować bez wysiłku.

Dla dziennikarstwa, sądów i dokumentowania nadużyć jest to zmiana głębsza niż samo istnienie fałszywek. Przez sto pięćdziesiąt lat fotografia i nagranie działały jako domyślne świadectwo. Ta rola się kończy i nic jej na razie nie zastępuje.

Co da się zrobić

Uwierzytelnianie u źródła. Zamiast wykrywać fałszywki, podpisywać kryptograficznie materiały prawdziwe w chwili powstania, razem z historią zmian. Rozwiązanie sensowne i wymagające zgody producentów sprzętu, redakcji i platform - czyli trudne organizacyjnie, nie technicznie.

Znakowanie wodne przy generowaniu. Działa, dopóki wszyscy je stosują, a materiał nie jest przetwarzany. Nie chroni przed modelami uruchamianymi lokalnie, co wiąże ten temat ze sporem o otwarte modele.

Weryfikacja kontekstu, nie obrazu. Najskuteczniejsze w praktyce dziennikarskiej pozostaje sprawdzenie, skąd materiał pochodzi, kto go pierwszy opublikował i czy zgadza się z innymi źródłami. Metoda stara, nudna i wciąż najlepsza.

Co z tego wynika

Praktyczna zasada dla czytelnika jest przykro prosta: nie ufaj własnej ocenie nagrania. Badania pokazują, że jest niewiele lepsza od losowej, a poczucie pewności nie pomaga.

Zamiast tego warto pytać o rzeczy, które nie zależą od obrazu: kto to opublikował pierwszy, czy jest materiał z innego ujęcia i czy zdarzenie ma potwierdzenie poza nagraniem.

To jest ta sama zasada, którą stosujemy w tym portalu przy zmyśleniach modeli: forma przekazu przestała nieść informację o jego prawdziwości. Zostało źródło.