Ирландский регулятор по защите данных (Data Protection Commission, DPC) официально начал крупномасштабное расследование в отношении социальной платформы X (ранее Twitter) из-за её ИИ-чатбота Grok. Расследование сосредоточено на создании и публикации на платформе потенциально вредных, нежелательных интимных и/или сексуализированных изображений реальных людей, включая детей, с использованием генеративных инструментов Grok.
DPC, являющийся ведущим надзорным органом для X в ЕС, уведомил X Internet Unlimited Company (XIUC) — юридическое лицо, через которое платформа работает в Европе. Расследование будет оценивать соблюдение компанией ключевых требований Общего регламента по защите данных (GDPR), включая принципы обработки данных, законность оснований для обработки, защиту данных по умолчанию и на этапе проектирования, а также необходимость проведения оценки воздействия на защиту данных.
Заместитель комиссара DPC Грэм Дойл заявил, что регулятор начал «крупномасштабный запрос», который изучит соблюдение X своих фундаментальных обязательств по GDPR. Ирландия, как ведущий надзорный орган для большинства крупных американских технологических платформ в ЕС, придаёт своим решениям обязательную силу на всей территории блока.
Расследование началось на фоне отчёта Центра по борьбе с цифровой ненавистью (CCDH), который в январе сообщил, что за 11 дней (с 29 декабря по 9 января) Grok сгенерировал, по оценкам, 23 338 сексуализированных изображений с участием детей. Исследователи обнаружили, что около трети из выборочно проверенных изображений оставались доступны на X, несмотря на политику нулевой терпимости платформы.
После общественного резонанса X ввёл ограничения: генерация и редактирование изображений в Grok стали доступны только платным подписчикам, были добавлены технические барьеры, чтобы остановить цифровое «раздевание» людей, а функция была геоблокирована в юрисдикциях, где такой контент является незаконным.
Международное давление нарастает
Ирландское расследование — лишь часть глобальной волны регуляторных действий против Grok. В январе Европейская комиссия открыла формальное расследование по Закону о цифровых услугах (DSA) в отношении X из-за предполагаемой роли Grok в создании и распространении незаконного сексуализированного контента. Вскоре после этого французские власти при поддержке Европола провели обыск в парижском офисе X и вызвали Илона Маска и нескольких руководителей на допрос.
В Великобритании регуляторы Ofcom и Управление уполномоченного по информации (ICO) открыли отдельные расследования. Ofcom предупредил, что может добиваться судебных мер для эффективной блокировки услуг X в случае несоответствия требованиям. Премьер-министр Кир Стармер заявил, что будет добиваться новых парламентских полномочий, чтобы подчинить провайдеров ИИ-чатботов закону об онлайн-безопасности.
В Австралии комиссар по электронной безопасности Джули Инман Грант сообщила, что жалобы, связанные с Grok и нежелательными ИИ-изображениями, удвоились за последние месяцы, и пообещала использовать свои исполнительные полномочия. Генеральный прокурор Калифорнии Роб Бонта объявил о формальном расследовании в отношении xAI и Grok.
Ранее в этом месяце ЮНИСЕФ назвал сексуальные дипфейки на ИИ «глубокой эскалацией рисков, с которыми сталкиваются дети в цифровой среде», отметив, что в прошлом году пострадали не менее 1,2 миллиона детей, и призвал правительства криминализировать материалы о насилии, созданные ИИ.
