Anthropic uruchamia inicjatywę finansowania ewaluacji modeli AI tworzonych przez zewnętrzne organizacje. Firma wskazuje, że ekosystem niezależnych testów jest ograniczony, a popyt na wysokiej jakości ewaluacje związane z bezpieczeństwem przewyższa podaż. Pierwszy priorytet to oceny poziomów AI Safety Level (ASL) z Responsible Scaling Policy. Obejmują one cyberbezpieczeństwo (np. nowe zadania typu CTF bez publicznie dostępnych rozwiązań, dotyczące wykrywania podatności, tworzenia exploitów i lateral movement), ryzyka CBRN, autonomię modeli (w tym zadania AI R&D, samoreplikację i exfiltrację wag), zagrożenia dla bezpieczeństwa narodowego, manipulację społeczną oraz ryzyko misalignmentu. Drugi obszar to zaawansowane metryki zdolności i bezpieczeństwa. Anthropic chce sfinansować dziesiątki tysięcy nowych pytań i zadań naukowych trudnych nawet dla studentów podyplomowych, rozwijając podejście znane z GPQA. Chodzi też o ewaluacje szkodliwości i odmów, testy wielojęzyczne oraz oceny wpływów społecznych, takich jak uprzedzenia, nadmierne poleganie na AI czy homogenizacja. Trzeci obszar to infrastruktura: platformy no-code dla ekspertów dziedzinowych bez umiejętności programowania oraz ewaluacje modeli oceniających inne modele. Zainteresowane podmioty mogą zgłaszać propozycje przez formularz aplikacyjny na stronie Anthropic.
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu