W środę 27 sierpnia 2026 roku złożono pozew zbiorowy przeciwko xAI. Jane Doe zarzuca firmie wykorzystanie materiałów CSAM (nielegalnych treści z udziałem nieletnich) do uczenia modelu Grok.
Treść pozwu i zarzuty
W pozwie złożonym w sądzie federalnym Jane Doe twierdzi, że jej wizerunek z okresu przedszkolnego został wykorzystany przez model Grok do generowania materiałów CSAM. Sygnatury NCMEC miały trafić do zbioru danych xAI. Powódka otrzymała powiadomienie od Canadian Centre for Child Protection o wykryciu wygenerowanych obrazów. Mechanizm działania opiera się na domyślnym włączaniu wyników generowanych przez model do dalszego procesu uczenia. xAI nie odpowiedziało na prośbę o komentarz skierowaną przez redakcję Ars Technica.
Historia powódki i ponowna trauma
Jane Doe była ofiarą powtarzających się przestępstw na początku lat 2000. Jej zdjęcia trafiły do baz NCMEC i CCCP. Choć otrzymywała liczne alerty z systemu Departamentu Sprawiedliwości, odkrycie wersji wygenerowanych przez model Grok było dla niej wstrząsem. Pozew podkreśla, że materiały te są rozpowszechniane przez sprawców na forach internetowych. Generowanie treści CSAM przez AI pogłębia traumę ofiar, które muszą mierzyć się z perspektywą ciągłego powielania ich wizerunku.
Mechanizm uczenia modelu Grok na wynikach generowania
Warunki użytkowania xAI zakładają, że publiczne posty w serwisie X oraz odpowiedzi generowane przez model Grok stanowią domyślne dane treningowe. Publikacja obrazu przez użytkownika może więc trafić bezpośrednio do procesu uczenia. Materiały CSAM nie zostały wymienione jako kategoria wyłączona z tego procesu, w przeciwieństwie do niektórych treści prezentujących przemoc. Usunięcie wpływu konkretnego przykładu z już wytrenowanego modelu jest technicznie trudne, a pozew wskazuje, że xAI nie deklarowało prowadzenia takich operacji.
Kontekst wcześniejszych incydentów z CSAM w obszarze AI
W 2023 roku badacze wykryli materiały CSAM w kontrowersyjnym zbiorze danych używanym do uczenia generatorów obrazów. Zbiór ten został później oczyszczony przez organizację non-profit. Sprawa xAI jest pierwszym przypadkiem dotyczącym uczenia na materiałach CSAM w kontekście tego konkretnego modelu. Nie ma dowodów, że xAI korzystało z tego samego zbioru danych. Pozew opiera się na sygnaturach NCMEC oraz komunikatach pochodzących z forów przestępczych.
Żądania prawne i możliwe konsekwencje
Pozew zbiorowy obejmuje wszystkie ofiary, których zdjęcia z dzieciństwa posłużyły do generowania treści CSAM przez model Grok. Jane Doe żąda odszkodowań na podstawie federalnych przepisów dotyczących zwalczania pornografii dziecięcej oraz Masha’s Law. xAI może zostać zobowiązane do usunięcia wszystkich wygenerowanych materiałów przechowywanych na serwerach. Dodatkowym żądaniem jest zablokowanie możliwości generowania przez model jakichkolwiek treści o charakterze seksualnym.
Znaczenie dla branży i regulacji
Sprawa wpisuje się w szerszą dyskusję o odpowiedzialności dostawców modeli za dane wykorzystywane w procesie uczenia. Podobne śledztwa toczą się wobec OpenAI. Analitycy wskazują, że wyrok może wpłynąć na praktyki weryfikacji zbiorów danych w całym sektorze. Firmy będą musiały dokładniej sprawdzać źródła wykorzystywanych materiałów. Koszty potencjalnych odszkodowań i koniecznych modyfikacji modeli pozostają trudne do oszacowania.
Dalsze kroki
Sąd zdecyduje o nadaniu sprawie statusu pozwu zbiorowego w najbliższych miesiącach. Jeśli dojdzie do rozprawy, xAI będzie musiało udowodnić, że nie wykorzystywało materiałów CSAM. Branża obserwuje rozwój wydarzeń ze względu na precedensowy charakter roszczeń. Otwarta pozostaje kwestia, czy regulatorzy w USA i UE zaostrzą wymagania dotyczące audytu zbiorów treningowych. Ewentualne zmiany w polityce xAI mogą wpłynąć na sposób budowy kolejnych wersji modelu Grok.
Źródła:
Ars Technica, https://cdn.arstechnica.net/wp-content/uploads/2026/08/Doe-v-X-Corp-Complaint-8-27-26.pdf, Canadian Centre for Child Protection, National Center for Missing and Exploited Children, Masha’s Law analysis
