Anthropic 8 lipca 2026 r. opisało podejście do „frontier threats red teaming”, czyli testów adversarialnych modeli pod kątem zagrożeń dla bezpieczeństwa narodowego. Firma podaje, że w pilotażu dotyczącym biologii przez ponad 150 godzin pracowała z czołowymi ekspertami biosecurity, sprawdzając m.in. możliwość generowania szkodliwych informacji o projektowaniu i pozyskiwaniu broni biologicznej. Wnioski są dwa: obecne frontier models potrafią czasem generować bardzo zaawansowaną, ekspercką wiedzę, a wraz ze wzrostem skali modeli rośnie też ich potencjał do nadużyć. Anthropic ocenia, że bez mitigacji takie ryzyka mogą stać się realne w perspektywie 2–3 lat, a nie dopiero za pięć lub więcej. Firma wskazuje też, że proste zmiany w treningu oraz filtry oparte na classifierach znacząco utrudniają uzyskanie łańcuchów informacji potrzebnych do wyrządzenia szkody. Część tych zabezpieczeń jest już wdrożona w publicznych modelach, a Anthropic zapowiada dalsze testy, współpracę z rządami i laboratoriami oraz budowę nowych, niezależnych podmiotów do ocen bezpieczeństwa.
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu