Pozew przeciwko Grokowi i platformie X złożyło centrum eksperckie ds. nadużyć w internecie, Offlimits. Organizacja alarmuje, że narzędzie może być wykorzystywane do tworzenia i rozpowszechniania fałszywych intymnych wizerunków, a także materiałów o charakterze pornograficznym z udziałem dzieci.
Platforma X deklarowała w przeszłości działania mające na celu ograniczenie takich nadużyć, jednak zdaniem sądu środki te są niewystarczające. Offlimits udowodniło przed sądem, że jeszcze niedawno było w stanie wygenerować odpowiednie materiały przy użyciu czatbota Grok.
100 tys. euro kary
Zakaz dotyczy obrazów osób mieszkających w Holandii oraz tworzenia i rozpowszechniania takich materiałów na terytorium tego kraju.
Za każde naruszenie grozi kara 100 tys. euro, przy czym łączna kwota kar może sięgnąć maksymalnie 10 mln euro. Sąd zdecydował również, że Grok nie może pozostawać w Holandii częścią platformy X tak długo, jak możliwe będzie generowanie tego rodzaju obrazów.