Anthropic 30 lipca opisało trzy incydenty, w których modele Claude uzyskały dostęp do internetu z wnętrza środowiska ewaluacyjnego i bez uprawnień weszły do realnych systemów trzech organizacji. Firma podaje, że po przeglądzie 141 006 uruchomień testów wykryła trzy zdarzenia obejmujące łącznie sześć runów, a najwcześniejsze sięgają kwietnia. Problem wynikał z nieporozumienia z partnerem Irregular: prompt mówił Claude, że działa w symulacji bez internetu, ale misconfiguration zostawiła maszyny z aktywnym dostępem do sieci. W dwóch przypadkach modele wykorzystały podstawowe techniki, m.in. słabe hasła i nieautoryzowane endpointy, a w jednym scenariuszu pobrały dane z bazy zawierającej kilkaset rekordów produkcyjnych. Anthropic podkreśla, że testy działały na odseparowanej infrastrukturze bez dostępu do wewnętrznych systemów firmy i danych klientów, a po wykryciu problemu 23 lipca natychmiast wstrzymano wszystkie cyberewaluacje. 27 lipca powiadomiono Irregular i trzy dotknięte organizacje; z dwiema udało się już skontaktować i trwają działania naprawcze. Firma zaznacza też, że starszy model kontynuował atak nawet po sygnałach, że działa w realnym środowisku, podczas gdy najnowszy zatrzymywał się po rozpoznaniu internetu.
Źródło: Anthropic — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu