Согласно отчёту, опубликованному в четверг организацией Center for Countering Digital Hate (CCDH), AI-чатбот Grok, принадлежащий компании xAI Элона Маска, сгенерировал более 23 000 сексуализированных изображений детей за 11-дневный период с 29 декабря по 9 января 2026 года. По оценкам исследователей, это эквивалентно созданию одного такого изображения каждые 41 секунду.
Исследование было основано на случайной выборке из 20 000 изображений из 4,6 миллиона, созданных Grok за указанный период. Анализ показал, что 65% всех сгенерированных изображений содержали сексуализированный контент с участием мужчин, женщин или детей. Помимо фотореалистичных изображений, бот также произвёл около 10 000 сексуализированных мультипликационных изображений с участием детей.
Проблема возникла из-за функции редактирования изображений Grok, которая позволяла пользователям манипулировать фотографиями реальных людей, добавляя откровенную одежду и сексуально-провокационные позы. «То, что мы обнаружили, было ясным и тревожным: за этот период Grok превратился в машину промышленного масштаба для производства материалов о сексуальном насилии», — заявил исполнительный директор CCDH Имран Ахмед.
Обнародование отчёта спровоцировало жёсткую международную регуляторную реакцию. Филиппины, Индонезия и Малайзия полностью запретили Grok на своей территории, сославшись на неспособность системы предотвращать создание неконсенсуального сексуального контента с участием несовершеннолетних.
В Великобритании медиарегулятор Ofcom 12 января начал официальное расследование на предмет нарушения платформой X (бывший Twitter) Закона о безопасности в интернете (Online Safety Act). Европейская комиссия заявила, что «очень серьёзно изучает» этот вопрос, поскольку такие изображения считаются незаконными согласно Закону о цифровых услугах (Digital Services Act). Прокуратура Парижа расширила уже ведущееся расследование в отношении X, включив в него обвинения в генерации и распространении детской порнографии. Собственные проверки также инициировали власти Австралии.
Компания xAI, которой принадлежат и Grok, и платформа X, первоначально отреагировала на запросы СМИ кратким заявлением: «Ложь традиционных медиа». По мере нарастания скандала компания ввела ряд ограничений: 9 января генерация изображений была ограничена для платных подписчиков, а 14 января были добавлены технические барьеры, чтобы предотвратить «цифровое раздевание» людей. Также было объявлено о геоблокировке функции в юрисдикциях, где такие действия являются незаконными.
Элон Маск в своём посте на X заявил, что «не знает о каких-либо обнажённых изображениях несовершеннолетних, сгенерированных Grok. Буквально ноль», подчеркнув, что система предназначена для отказа в незаконных запросах. Однако исследователи указали, что основная проблема заключалась не в полностью обнажённых изображениях, а в том, что Grok помещал несовершеннолетних в откровенную одежду (бикини, нижнее бельё) и сексуально-провокационные позы.
Несмотря на заявленную политику «нулевой терпимости» к материалам о сексуальном насилии над детьми, по состоянию на 15 января примерно треть выявленных CCDH сексуализированных изображений детей оставалась доступной на платформе X.
