Sztuczna inteligencja firmy Anthropic, znana jako Claude, zrobiła krok naprzód w zakresie przejrzystości treści. Firma ogłosiła, że wszystkie modele udostępniane od 2 sierpnia będą zawierać niewidoczny system znaczników w generowanym tekście. Ten środek, który zostanie wdrożony na całym świecie, ma na celu dostosowanie go do wymogów Unii Europejskiej dotyczących identyfikacji treści syntetycznych.
Głównym celem jest, aby każdy tekst tworzony przez Claude był rozpoznawalny jako taki, a użytkownik nie zauważyłby żadnej różnicy w jakości ani czytelności. Znak wodny nie jest widoczny gołym okiem, ale pozostaje osadzony w tekście nawet po skopiowaniu i wklejeniu na inne platformy. Inicjatywa ta jest zgodna z Kodeksem Dobrych Praktyk w zakresie Przejrzystości Treści Generowanych przez Sztuczną Inteligencję, podpisanym przez ponad 190 organizacji, oraz z unijnym prawem dotyczącym sztucznej inteligencji, które od sierpnia wymaga oznaczania tego typu treści znakiem wodnym.
Decyzja Anthropic nie jest przypadkowa. Przepisy europejskie nakładają na firmy zajmujące się sztuczną inteligencją obowiązek oznaczania treści syntetycznych , aby użytkownicy mogli odróżnić je od treści tworzonych przez ludzi. Artykuł 50.2 ustawy o sztucznej inteligencji stanowi, że dostawcy muszą zapewnić, aby dane wyjściowe ich systemów były oznaczane w formacie nadającym się do odczytu maszynowego. Anthropic, wraz z innymi dużymi firmami technologicznymi, takimi jak OpenAI, Google, Meta i Microsoft, podpisało ten kodeks przejrzystości, choć firmy takie jak xAI Elona Muska jeszcze do niego nie dołączyły.
Firma wyjaśniła, że znak wodny jest stosowany na dwa sposoby: w przypadku obrazów i grafik stosowane są metadane oparte na standardzie C2PA (Coalition for Content Provenance and Authenticity), a w przypadku tekstu stosowany jest niewidoczny znak wodny, zintegrowany z samym procesem generowania. Znak wodny nie zmienia znaczenia ani jakości odpowiedzi i jest przesyłany wraz z tekstem podczas kopiowania, eksportowania lub udostępniania za pośrednictwem interfejsu API.
System opiera się na sekwencji tokenów generowanych przez model. Zamiast dodawać ukryte znaki lub widoczne metadane, znak wodny jest kodowany w wyborze słów, gdy dostępnych jest kilka równie poprawnych opcji. Na przykład, biorąc pod uwagę frazę „the sky was…”, model może wybrać „cloudy” lub „gray”. W przypadku znaku wodnego wybór ten nie jest losowy, lecz zależy od klucza kryptograficznego i poprzedzających go słów. W ten sposób, ktokolwiek posiada klucz, może statystycznie określić, czy tekst został wygenerowany przez Claude’a.
Ta metoda, stosowana już w innych systemach, takich jak SynthID firmy Google, nie zwiększa kosztów ani opóźnień w procesie. Wykrywanie znaku wodnego nie jest niezawodne : jeśli tekst zostanie edytowany, parafrazowany, tłumaczony lub zmieszany z inną treścią, znak wodny może zniknąć. Co więcej, sygnał jest słabszy w bardzo krótkich fragmentach lub w kodzie. Anthropic przyznaje, że brak znaku wodnego nie oznacza, że treść nie została wygenerowana przez sztuczną inteligencję, a jego obecność nie jest definitywna co do faktycznego autorstwa.
Firma zaznaczyła, że znak wodny dotyczy wszystkich modeli wydanych od 2 sierpnia, a starsze modele będą stopniowo aktualizowane. Środek ten ma charakter globalny, nie tylko w Europie , i dotyczy wszystkich produktów Claude, w tym API, Claude Code, Claude Cowork oraz platform zewnętrznych, takich jak infrastruktura AWS , Google Cloud i Microsoft Foundry. Jednak publiczne wykrywanie nie jest jeszcze dostępne: Anthropic ogłosił, że za kilka tygodni udostępni narzędzie, które umożliwi użytkownikom i firmom zewnętrznym sprawdzenie, czy tekst zawiera znak wodny.
Kolejnym istotnym ograniczeniem jest to, że znak wodny nie identyfikuje użytkownika ani oryginalnej rozmowy. Nie rozróżnia również, czy tekst został stworzony od podstaw, czy też Claude po prostu pomógł w korekcie, tłumaczeniu lub streszczeniu istniejącej treści. Spowodowało to krytykę, ponieważ przepisy europejskie wyraźnie wykluczają standardowe zadania redakcyjne, a Anthropic stosuje znak wodny do wszystkich zastosowań. Pomimo tych niedociągnięć, rozwiązanie to stanowi postęp w walce z dezinformacją i niewłaściwym wykorzystaniem sztucznej inteligencji.
Decyzja firmy Anthropic wpisuje się w szerszy ruch branżowy. OpenAI, Google, Meta, Microsoft i Mistral również podpisały Kodeks Przejrzystości i wdrażają podobne systemy. Jednak brak ujednoliconego standardu i ograniczenia techniczne oznaczają, że wykrywanie nie jest idealne. Na przykład, zrobienie zrzutu ekranu może usunąć metadane C2PA, a całkowite przepisanie tekstu może usunąć znak wodny.
W środowisku edukacyjnym i zawodowym te narzędzia do tagowania mogą być przydatne do identyfikacji prac generowanych przez sztuczną inteligencję, ale eksperci ostrzegają, że nie stanowią one ostatecznego rozwiązania. Sama firma Anthropic podkreśla, że tagowanie nie jest dowodem autorstwa, a raczej wskaźnikiem prawdopodobieństwa. Wraz z rozwojem technologii prawdopodobnie zobaczymy bardziej niezawodne systemy, ale na razie transparentność pozostaje wyzwaniem.
Krótko mówiąc, dodanie niewidocznych znaków wodnych w Claude stanowi ważny krok w kierunku zgodności z przepisami europejskimi i zapewnienia użytkownikom większej ilości informacji o pochodzeniu treści. Chociaż system ma pewne ograniczenia, jest to znaczący krok w dobrym kierunku. Społeczność technologiczna będzie uważnie śledzić narzędzie do wykrywania, które Anthropic obiecuje wkrótce uruchomić, a także to, jak inne firmy dostosują się do tej nowej rzeczywistości.