Anthropic aktywuje standardy wdrożeniowe i bezpieczeństwa AI Safety Level 3 (ASL-3) z Responsible Scaling Policy razem z premierą Claude Opus 4. Firma podkreśla, że to działanie zapobiegawcze i tymczasowe: nie ustaliła jeszcze, czy model przekroczył próg możliwości wymagający ASL-3, ale przy rosnącej wiedzy modelu o CBRN (chemiczna, biologiczna, radiologiczna i jądrowa) nie dało się tego jednoznacznie wykluczyć, jak w przypadku wcześniejszych modeli. Wykluczono natomiast potrzebę ASL-4 dla Opus 4 oraz ASL-3 dla Claude Sonnet 4. Zabezpieczenia wdrożeniowe opierają się na Constitutional Classifiers, czyli klasyfikatorach działających w czasie rzeczywistym, które monitorują wejścia i wyjścia modelu i blokują wąską klasę szkodliwych treści CBRN. Uzupełniają je bug bounty, systemy offline i partnerstwa threat intelligence do wykrywania uniwersalnych jailbreaków. Po stronie bezpieczeństwa Anthropic wdrożył ponad 100 kontroli chroniących wagi modelu, w tym autoryzację dwuosobową, binary allowlisting oraz wstępne limity przepustowości ruchu wychodzącego (egress bandwidth controls). Do tej pory wszystkie modele działały według standardu ASL-2. Firma zapewnia, że środki nie powinny powodować odmów poza bardzo wąskim zakresem tematów, choć możliwe są sporadyczne fałszywe alarmy. Jeśli dalsze oceny wykażą, że Opus 4 nie przekroczył progu, ASL-3 może zostać zdjęte lub złagodzone.
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu