Google wycofało funkcję AI image generation w Google Earth po tym, jak użytkownicy zaczęli tworzyć realistyczne sceny katastrof i eksplozji w miastach. W aktualizacji z 31 lipca firma napisała, że „people uniquely trust Google Earth for a reliable view of the world” i że widzi zastosowania tej funkcji w pracy specjalistów geospatial, ale jednocześnie pojawiły się zrzuty ekranu z obrazami naruszającymi polityki. Google podkreśliło też, że wygenerowane grafiki nie były widoczne dla innych w głównym widoku Google Earth i miały znak wodny AI generated. Firma zapowiedziała „stronger guardrails”, czyli mocniejsze zabezpieczenia, zanim funkcja wróci do produktu. Sprawa pokazuje, że nawet narzędzia testowane jako pomoc przy wizualizacji np. pustej działki mogą szybko zostać wykorzystane do nadużyć. Dla marketerów i zespołów produktowych to kolejny sygnał, że wdrażanie generatywnej AI bez twardych ograniczeń moderacji i kontroli ryzyka może skończyć się szybkim rollbackiem.
Źródło: Search Engine Journal — oryginalny artykuł ↗
Chcesz wiedzieć, jak ta zmiana wpłynie na Twoją stronę?
Nasz zespół analizuje każdą aktualizację Google w 48h i przekłada ją na konkretne działania dla klientów.
Bezpłatna analiza wpływu