Anthropic zapowiada, że przyszłe modele Claude będą generować tekst z watermarkiem, a zmiana ma wejść globalnie przy premierze, by spełnić wymogi EU AI Act. Firma podkreśla, że znakowanie nie wpływa na jakość, kreatywność ani czytelność odpowiedzi, nie dodaje żadnych ukrytych znaków i nie wymaga dodatkowych tokenów, więc nie podniesie ceny użycia modelu. Mechanizm opiera się na metodzie SynthID-Text od Google DeepMind z pracy opublikowanej w Nature w 2024 roku i wykorzystuje losowanie między równoważnymi wyborami słów, tworząc wzorzec możliwy do wykrycia kluczem. Anthropic zaznacza też, że watermark nie pozwala przypisać tekstu do konkretnej osoby, organizacji ani czatu, a na krótkich próbkach działa słabiej. Firma przypomina, że od 2 sierpnia UE wymaga od dostawców AI oznaczania treści generowanych przez modele, a podobne rozwiązania wdrażają też inni duzi dostawcy. Dla użytkowników i zespołów contentowych oznacza to większą wykrywalność materiałów tworzonych przez AI, zwłaszcza tam, gdzie Claude generuje dłuższe fragmenty tekstu. Anthropic zapowiada też wkrótce API do wykrywania watermarku.
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu