OpenAI opisało działania wymierzone w zorganizowaną grupę przestępczą, która wykorzystywała ChatGPT do prowadzenia oszustw i manipulowania ofiarami. Firma podała, że zidentyfikowała i zablokowała konta powiązane z tą operacją, a także przekazała informacje o nadużyciach odpowiednim podmiotom. W komunikacie podkreślono, że scam wykorzystywał narzędzia AI do tworzenia wiadomości, które miały wyglądać wiarygodnie i zwiększać skuteczność ataków. To kolejny sygnał, że generatywna AI jest coraz częściej używana nie tylko do pracy, ale też do automatyzacji oszustw. Dla marketerów i firm oznacza to większą presję na weryfikację komunikacji, ochronę marek i edukację zespołów, bo treści tworzone przez AI mogą być trudniejsze do odróżnienia od prawdziwych. OpenAI nie podało w tym materiale szczegółów technicznych dotyczących skali operacji, ale jasno wskazało na aktywne działania blokujące i egzekwowanie zasad użycia platformy.
Źródło: OpenAI — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu