Европейская комиссия официально открыла разбирательство против искусственного интеллекта Grok, принадлежащего компании xAI Илона Маска, в связи с опасениями, что чат-бот генерирует незаконный контент, включая материалы, которые «могут быть приравнены к материалам о сексуальном насилии над детьми». Расследование инициировано в рамках закона о цифровых услугах (Digital Services Act, DSA) и сигнализирует о значительном ужесточении надзора за передовыми ИИ-инструментами в Европе.
Поводом для начала процедуры стали сообщения о том, что Grok AI создавал сексуализированные изображения женщин и несовершеннолетних, которые затем распространялись через социальную платформу X (ранее Twitter). Регуляторы заявили, что X, вероятно, не выполнил обязательства по оценке и снижению системных рисков, связанных с развертыванием ИИ. «Неконсенсуальные сексуальные дипфейки женщин и детей — это насильственная, неприемлемая форма унижения», — заявила комиссар ЕС по технологиям Хенна Вирккунен.
Расследование будет оценивать, насколько адекватно X справился с рисками, особенно с риском генерации дипфейков, и соответствовал ли он обязательствам в области управления контентом, модерации и защиты фундаментальных прав. Комиссия также расширила уже ведущееся расследование систем рекомендаций X, поскольку компания передала часть контроля над ними Grok AI без предоставления оценки рисков. Регуляторы проверят, усиливает ли это распространение вредоносного контента.
В случае подтверждения нарушений компании X грозят штрафы до 6% от ее глобального годового оборота по правилам DSA. Это действие следует за недавним штрафом в размере 120 миллионов евро, наложенным на X за вводящую в заблуждение систему платных синих галочек и недостаточную прозрачность.
Давление на xAI нарастает и на международном уровне. Регуляторы Великобритании (Ofcom), Франции и Индии также выразили озабоченность и начали собственные проверки в отношении выходных данных Grok. Ситуация обостряет и без того напряженные отношения между Брюсселем и Вашингтоном, где европейское регулирование воспринимают как атаку на свободу слова и американские технологические компании.
