Anthropic udostępnia zespołowi METR, nieprofitowej organizacji oceniającej modele frontier AI, dostęp zbliżony do pracowniczego. Firma zatrudniła w ramach tego układu sześciu pracowników METR, którzy dostali sprzęt firmowy, biuro oraz dostęp do narzędzi i systemów porównywalny z tym, jaki mają wewnętrzne zespoły oceny ryzyka. Wyjątkiem są wąskie kategorie, takie jak dane klientów, informacje objęte tajemnicą adwokacką czy architektura modeli. METR opublikuje własną analizę poziomów ryzyka, incydentów i praktyk Anthropic, a firma nie może zablokować publikacji. Może jedynie zażądać zaczernienia informacji z wąskich, z góry zdefiniowanych kategorii, a METR może publicznie ocenić, czy to było uzasadnione. Anthropic opisuje trzy poziomy dostępu dla ewaluatorów: w pierwszym ocena jest wąsko zakresowa i publikacja wymaga zgody firmy, w drugim publikacja jest możliwa bez zgody i z większym dostępem, a trzeci to układ z METR. SecureBio działa obecnie na poziomie pierwszym i recenzuje rozdział o bronii chemicznej i biologicznej w sierpniowym Risk Report. Z Accenture i Faculty firma pracuje nad partnerstwem obejmującym red-teaming, oceny alignmentu i testy zabezpieczeń, a wstępne rozmowy trwają też m.in. z Hugging Face. Anthropic porównuje model do nadzoru bankowego z rezydentnymi kontrolerami i zapowiada, że każda firma frontier AI powinna robić to samo. Krok następuje po podpisaniu White House Accord on Super Intelligence, w którym firmy zobowiązały się do współpracy z niezależnymi a
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu