Генеральный прокурор Калифорнии Роб Бонта 16 января 2026 года направил компании xAI, основанной Илоном Маском, официальное предписание о немедленном прекращении создания и распространения незаконных дипфейков, генерируемых её ИИ-моделью Grok. В письме, адресованном непосредственно Маску как CEO xAI, содержится требование обеспечить сохранность доказательств и подтвердить выполнение распоряжения до 20 января 2026 года.
Поводом для жёстких мер стали результаты расследования, в ходе которого выяснилось, что Grok использовался для массового производства недобровольного интимного контента с участием женщин и детей. Как заявил Бонта, «лавина сообщений, детализирующих этот материал — в некоторых случаях изображающий женщин и детей, вовлечённых в сексуальную активность, — шокирует и, как установила моя канцелярия, потенциально является незаконной».
По данным прокуратуры, одно из исследований показало, что более половины из 20 000 изображений, сгенерированных xAI в период между Рождеством и Новым годом, изображали людей с минимальным количеством одежды, некоторые из которых выглядели как дети. Власти утверждают, что xAI «способствует крупномасштабному производству» такого контента, который затем используется для преследования женщин и девочек в интернете.
Действия xAI, по мнению прокурора, нарушают ряд законов штата, включая раздел 1708.86 Гражданского кодекса, разделы 311 и след., а также 647(j)(4) Уголовного кодекса, и раздел 17200 Кодекса о бизнесе и профессиях Калифорнии. Ранее, 4 января, аккаунт службы безопасности X (ранее Twitter) заявлял о борьбе с подобным контентом путём его удаления, блокировки аккаунтов и сотрудничества с правоохранителями. В тот же день Илон Маск предупредил, что пользователи, создающие через Grok незаконный контент, понесут ответственность, как если бы они загрузили его сами.
Этот случай является частью более широкой кампании регулирующих органов США против технологических компаний в сфере ИИ. В сентябре 2025 года Бонта и генеральный прокурор Делавэра встречались с OpenAI, выражая озабоченность взаимодействием их продуктов с молодёжью. В августе того же года Бонта вместе с 44 другими генеральными прокурорами направил письма с предупреждениями 12 ведущим компаниям в области ИИ, включая Anthropic, Apple, Google, Meta, Microsoft и OpenAI, призывая их усилить защиту детей.
