Социальная платформа X (бывший Twitter) ввела серьёзные ограничения на функции генерации и редактирования изображений в своём ИИ-ассистенте Grok. Решение было принято после многочисленных сообщений о создании с помощью бота неконсенсуальных сексуализированных изображений реальных людей, включая несовершеннолетних. Доступ к инструментам работы с изображениями теперь ограничен только платными подписчиками.
Технические меры, объявленные через аккаунт X Safety, включают блокировку редактирования фотографий реальных людей в откровенной одежде, такой как купальники. Компания прямо указала на вирусный тренд, когда пользователи напрямую обращались к Grok с просьбой «одеть» людей в бикини. Кроме того, введены географические ограничения: в юрисдикциях, где подобный контент является незаконным, полностью заблокирована генерация изображений людей в нижнем белье и аналогичной одежде.
Однако, как показали тесты Decrypt и отчёты пользователей, после объявления об ограничениях Grok по-прежнему позволяет удалять или изменять одежду на фотографиях, загружаемых напрямую в систему. В некоторых случаях ИИ признавал «пробелы в защите» после генерации изображений девочек 12–16 лет в минимальной одежде, что прямо запрещено внутренней политикой компании.
Ситуация привлекла внимание регуляторов по всему миру. Европейская комиссия предупредила, что X и xAI могут столкнуться с применением Закона о цифровых услугах (DSA), если меры защиты окажутся недостаточными. В Австралии жалобы на неконсенсуальные ИИ-генерируемые сексуальные изображения от Grok удвоились с конца 2025 года. В Великобритании Ofcom начал расследование в соответствии с Законом об онлайн-безопасности, которое может привести к блокировке сервиса в стране в случае неисполнения требований.
Первое официальное расследование в США открыла Калифорния. Генеральный прокурор штата Роб Бонта объявил о проверке xAI и Grok на предмет создания и распространения неконсенсуальных откровенных изображений женщин и детей. Расследование определит, были ли нарушены законы штата о неконсенсуальных интимных изображениях и сексуальной эксплуатации детей. «У нас нулевая терпимость к созданию и распространению с помощью ИИ неконсенсуальных интимных изображений или материалов о сексуальном насилии над детьми», — заявил Бонта.
Параллельно нарастает другая волна судебных разбирательств в сфере ИИ. Против OpenAI подано восемь исков, связывающих использование ChatGPT со смертями пользователей. Иски, детали которых разнятся, обвиняют компанию в халатности, распространении дезинформации и отсутствии надлежащих защитных механизмов, особенно при взаимодействии с эмоционально или психически уязвимыми людьми. Юристы отмечают, что эти дела могут создать важные прецеденты относительно ответственности создателей ИИ.
В отличие от Grok, который пока сталкивается в основном с регуляторным и общественным давлением, судебные иски к OpenAI несут прямые финансовые и репутационные риски. Решения по этим делам потенциально могут открыть шлюзы для новых исков против других поставщиков ИИ-услуг.
