Власти США на федеральном и штатном уровне начали масштабные расследования в отношении компании xAI Илона Маска и крупнейших социальных сетей из-за скандала, связанного с генерацией искусственным интеллектом непристойных изображений, в том числе с участием несовершеннолетних.
Генеральный прокурор Калифорнии Роб Бонта объявил о начале официального расследования в отношении xAI. Поводом стали данные платформы Copyleaks, согласно которым в январе 2025 года на платформу X каждую минуту публиковалось одно проблемное изображение, созданное ИИ. В отдельной 24-часовой выборке было зафиксировано 6700 случаев в час. Расследование сосредоточено на возможном нарушении xAI законов штата о «распространении недобровольных материалов сексуального характера».
Параллельно группа из восьми сенаторов-демократов США направила официальные запросы руководству компаний X, Meta (владелец Facebook и Instagram), Alphabet (Google, YouTube), Snap (Snapchat), Reddit и TikTok. Законодатели потребовали предоставить документальные доказательства наличия «надёжных защитных мер и политик» против недобровольных интимных изображений, созданных ИИ, и сохранить все внутренние документы, связанные с созданием, обнаружением и модерацией такого контента.
Илон Маск публично отреагировал на обвинения, заявив: «Я не знаю ни об одном изображении обнажённых несовершеннолетних, сгенерированном Grok. Буквально ноль». Юристы, однако, отмечают узкую формулировку этого отрицания, которое не затрагивает более широкую категорию недобровольного сексуализированного контента с участием взрослых.
Международная реакция также ужесточилась. Индонезия и Малайзия временно заблокировали доступ к Grok, Индия потребовала от X немедленных технических изменений, Европейская комиссия распорядилась сохранить все документы, связанные с Grok, а британский регулятор Ofcom начал расследование в соответствии с Законом о безопасности в интернете.
В ответ на скандал xAI начала внедрять новые ограничения: для некоторых запросов на генерацию изображений теперь требуется премиум-подписка, повышена частота отказов на откровенно сексуальные запросы, а вывод для чувствительных запросов стал более общим или изменённым. Однако эксперты отмечают несоответствия в этих мерах. Вице-президент по маркетингу Copyleaks Эйприл Козен заявила, что Grok, по-видимому, «более снисходителен к создателям контента для взрослых».
Правовая база для расследований включает федеральный «Закон о снятии» (Take It Down Act), который криминализирует умышленное распространение недобровольных интимных изображений, включая дипфейки, и обязывает платформы удалять их в течение 48 часов. В 2024 году в Калифорнии также был принят ряд законов, специально направленных против сексуально откровенных дипфейков.
