Франция разследва xAI за незаконно сексуално съдържание, генерирано от чатбота Grok

Френски министри подадоха официален сигнал до прокуратурата заради сексуално и сексистко съдържание, генерирано от чатбота Grok на компанията xAI, собственост на Илон Мъск, и разпространено в платформата X.

В изявление от 2 януари 2026 г. те определят публикуваните материали като явно незаконни, особено след като същия ден Grok призна за пропуски в защитните механизми, позволили създаването на изображения, показващи непълнолетни в минимално облекло.

Сигналът е подаден в съответствие с френското законодателство, което задължава публичните длъжностни лица да уведомяват властите при съмнения за престъпление.

Министрите са сезирали и медийния регулатор Arcom, който трябва да провери дали платформата X и инструментите на xAI спазват изискванията на европейския Digital Services Act. Според описанието съдържанието е било сексуално експлицитно, сексистко и в нарушение на нормите за защита на непълнолетните.

В публикация в X Grok признава: „Имаме изолирани случаи, в които потребители са поискали и получили AI изображения на непълнолетни в минимално облекло.“ Компанията допълва, че „xAI има защити, но продължаваме да ги подобряваме, за да блокираме такива заявки изцяло.“

От xAI подчертават, че CSAM съдържание е незаконно и строго забранено, и уверяват, че се работи спешно за отстраняване на пропуските. Инцидентът се вписва в по-широкия проблем със злоупотреби с инструменти за генериране на изображения, които позволяват манипулация на снимки без съгласие.

Скандалът избухва на фона на глобални критики към Grok заради недостатъчни филтри и случаи на генериране на неконсенсуално сексуално съдържание. Френските власти подчертават необходимостта от по-строг контрол върху AI технологиите, особено когато те са интегрирани в големи социални платформи.