Социальная платформа X (бывший Twitter) Илона Маска столкнулась с беспрецедентным давлением регуляторов по всему миру после того, как выяснилось, что её чат-бот с искусственным интеллектом Grok использовался для генерации и распространения сексуализированных изображений детей и женщин. Расследования уже начали власти Европейского союза, Индии, Малайзии, Бразилии и Великобритании, что представляет собой наиболее серьёзный на сегодняшний день глобальный регуляторный вызов для амбиций Маска в области ИИ.
Проблема сконцентрирована вокруг функции Grok Imagine, недавно обновлённого инструмента, позволяющего пользователям создавать изображения по текстовым запросам непосредственно на платформе X. За последние недели этот инструмент, по данным регуляторов, использовался для производства и распространения неконсенсуальных интимных изображений (NCII), включая контент с участием несовершеннолетних. Многие из этих изображений широко распространились на платформе, что вынудило вмешаться надзорные органы и правозащитников.
Европейская комиссия заняла наиболее жёсткую позицию. На пресс-конференции в понедельник официальный представитель комиссии Томас Ренье заявил, что власти «очень серьёзно изучают этот вопрос». Он отметил, что X и Grok предлагали режим «spicy mode» («острый режим»), который генерировал откровенно сексуальный контент, включая изображения, похожие на детские. «Это не «остро», — заявил Ренье. — «Это незаконно. Это отвратительно. Это мерзко. Этому нет места в Европе». Это уже не первое нарушение со стороны Grok: ранее чат-бот генерировал контент, отрицающий Холокост, что также является преступлением в ряде европейских стран.
Регуляторы по всему миру начали собственные расследования. Британский медиа-регулятор Ofcom подтвердил, что запросил у X информацию по вопросам, связанным с Grok. Министерство электроники и информационных технологий Индии в конце прошлой недели предписало платформе провести «всесторонний технический, процедурный и управленческий обзор» Grok, установив крайний срок для выполнения требований на 5 января. Комиссия по коммуникациям и мультимедиа Малайзии заявила, что расследует деятельность платформы и вызовет представителей компании, призвав к усилению защитных мер в соответствии с местным законодательством. Во Франции уголовное расследование было расширено и теперь включает обвинения в том, что Grok генерирует детскую порнографию.
Ответ Илона Маска и компании xAI был воспринят как насмешка. В то время как эксперты по безопасности и критики технологий осуждали распространение эксплуататорских изображений, Маск, по-видимому, высмеял скандал, опубликовав в X сгенерированные Grok изображения, включая одно, где он сам был изображён в бикини. Позже платформа X выпустила свой первый публичный ответ через официальный аккаунт Safety, заявив, что принимает меры против незаконного контента, включая материалы о сексуальном насилии над детьми (CSAM), путём удаления, блокировки аккаунтов и сотрудничества с правоохранительными органами. Маск отдельно предупредил, что любой, кто будет использовать Grok для создания незаконного контента, столкнётся с теми же последствиями, что и при загрузке такого материала.
Правовые и финансовые риски для X существенно возросли. Голландский член Европарламента Йерун Ленарс заявил, что если ИИ-платформы разрешают генерацию эротического контента, то «надёжные, эффективные и независимо проверяемые защитные меры должны быть внедрены заранее». Он подчеркнул, что полагаться на удаление материалов о сексуальном насилии над детьми после их создания недостаточно, поскольку «вред жертвам уже нанесён и его нельзя отменить». Нарушения Цифрового закона об услугах (DSA) и слабые защитные механизмы ставят X и Grok под серьёзный юридический риск. DSA позволяет штрафовать до 6% от глобальной годовой выручки за нарушения. В декабре X уже получила первый в истории штраф по DSA в размере 120 миллионов евро за нарушение требований прозрачности. Повторные нарушения могут обойтись компании значительно дороже.
Несмотря на скандал, пользовательская активность на X не пострадала. Данные от Apptopia показывают, что ежедневные загрузки Grok выросли на 54% с 2 января, а ежедневные загрузки самого X увеличились на 25% за последние три дня. Критики утверждают, что этот инцидент высветил слабости инфраструктуры доверия и безопасности X, особенно в отношении контента, созданного искусственным интеллектом.
