Anthropic publicznie poparł SB 53, kalifornijską ustawę regulującą najpotężniejsze systemy AI tworzone przez największych deweloperów, takich jak sama firma. Projekt Scotta Wienera opiera się na zasadzie „trust but verify”, rekomendowanej przez Joint California Policy Working Group powołaną przez gubernatora Newsoma, i stawia na wymogi jawności zamiast technicznych nakazów, które według Anthropic zaszkodziły poprzedniej próbie regulacji, SB 1047. Ustawa zobowiązuje duże firmy do publikowania ram bezpieczeństwa opisujących zarządzanie ryzykiem katastrofalnym oraz do wydawania raportów transparentności przed wdrożeniem nowych modeli. Incydenty krytyczne trzeba zgłaszać państwu w ciągu 15 dni, a firmy mają poufnie przekazywać streszczenia ocen ryzyka dla modeli używanych wewnętrznie. Projekt przewiduje też ochronę sygnalistów oraz kary pieniężne za niedotrzymanie zobowiązań z opublikowanych ram. Anthropic zaznacza, że wiele z tych praktyk już stosuje: publikuje Responsible Scaling Policy i szczegółowe system cards, a podobne podejście przyjęły Google DeepMind, OpenAI i Microsoft. Z regulacji wyłączono startupy i mniejsze firmy. Firma wskazuje obszary do poprawy: próg 10^26 FLOPS to „akceptowalny punkt wyjścia”, ale część mocnych modeli może go nie osiągać, a deweloperzy powinni ujawniać więcej szczegółów o testach, ewaluacjach i środkach zaradczych. Regulatorzy powinni też móc aktualizować przepisy wraz z rozwojem technologii. Anthropic nadal uważa, że bezpieczeństwo AI najlepie
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu