Wszczynają śledztwo w sprawie X. Chodzi o nielegalne treści z Grok AI 

• Ofcom bada, czy X spełnia obowiązki z brytyjskiej ustawy o bezpieczeństwie online.
• Śledztwo dotyczy m.in. niekonsensualnych zdjęć intymnych i treści CSAM generowanych przez Grok AI.
• X ograniczył edycję obrazów w Grok za paywallem; Ofcom rozważa surowe sankcje.

Brytyjski Ofcom ogłosił formalne śledztwo wobec X, należącej do Elona Muska. Regulator chce ustalić, czy platforma właściwie chroni użytkowników w Wielkiej Brytanii przed nielegalnymi treściami. Jak podaje Variety, impuls dały doniesienia o wykorzystaniu chatbota Grok AI do tworzenia i dystrybucji niekonsensualnych obrazów intymnych oraz materiałów seksualizujących dzieci, które mogą stanowić treści CSAM.

Sprawa błyskawicznie trafiła pod presję rządu po fali potępienia tzw. deepfake’ów o charakterze seksualnym. Według BBC News, premier Keir Starmer nazwał takie praktyki "haniebnymi" i "odrażającymi" oraz podkreślił, że tworzenie obrazów przedstawiających dorosłych i nieletnich jest "nielegalne" i "niedopuszczalne". "Poprosiłem, by na stole znalazły się wszystkie opcje" – powiedział Starmer, dodając, że Ofcom ma "pełne wsparcie" rządu dla działań egzekucyjnych.

W odpowiedzi X w piątek przeniósł funkcje edycji obrazów Grok za paywall. Od tego momentu tylko płatni subskrybenci, którzy potwierdzili tożsamość i płatność, mogą edytować grafiki w serwisie. Darmowi użytkownicy nadal mają dostęp do tych narzędzi przez oddzielną aplikację i stronę Grok, co – jak wskazują obserwacje ze źródła – nie zamyka całkowicie furtki do nadużyć.

Ofcom skontaktował się z X 5 stycznia i wyznaczył termin do 9 stycznia na przedstawienie działań zgodnych z ustawą Online Safety Act. Po analizie odpowiedzi regulator uznał, że istnieją podstawy do wszczęcia dochodzenia. Weryfikacja obejmie m.in.: ocenę ryzyk narażenia użytkowników w Wielkiej Brytanii na nielegalne treści, skuteczność mechanizmów zapobiegania kontaktowi z niekonsensualnymi obrazami i CSAM oraz tempo usuwania nielegalnych materiałów.

Regulator sprawdzi także, czy X właściwie ocenił ryzyka dla dzieci i czy stosuje "wysoce skuteczną weryfikację wieku" w celu odcięcia nieletnich od treści pornograficznych. "Doniesienia o wykorzystaniu Grok do tworzenia i udostępniania nielegalnych, niekonsensualnych obrazów intymnych oraz materiałów dotyczących wykorzystywania seksualnego dzieci na X są głęboko niepokojące" – przekazał rzecznik Ofcom w oświadczeniu. "Platformy muszą chronić ludzi w Wielkiej Brytanii przed treściami nielegalnymi w Wielkiej Brytanii i nie zawahamy się prowadzić dochodzeń, gdy podejrzewamy, że firmy nie wywiązują się ze swoich obowiązków, zwłaszcza gdy istnieje ryzyko szkody dla dzieci".

Ofcom zapowiada, że poprowadzi sprawę "w najwyższym priorytecie", z zachowaniem należytego procesu, aby decyzja była "prawnie solidna i sprawiedliwa". W razie stwierdzenia naruszeń regulator może nałożyć kary do 18 mln funtów lub 10 proc. globalnych przychodów kwalifikowanych – w zależności od tego, która kwota jest wyższa. W skrajnych i uporczywych przypadkach prawo pozwala wnioskować do sądu o środki "zakłócające działalność", w tym blokowanie dostępu do X w Wielkiej Brytanii lub odcięcie wpływów z reklam i płatności użytkowników.

Jak wynika z ustaleń Variety,Ofcom otrzymał również 9 stycznia odpowiedź od xAI, spółki stojącej za Grok, i ocenia, czy zachodzi potrzeba odrębnego postępowania. Brytyjskie prawo zakazuje dystrybucji deepfake’owych obrazów dorosłych. Od wejścia w życie obowiązków z Online Safety Act regulator wszczął już ponad 90 postępowań i nałożył sześć kar za brak zgodności, a obecnie rekrutuje nowego przewodniczącego, który ma wzmocnić nadzór w kontekście nowych technologii i struktur własnościowych platform.