Австралийский регулятор кибербезопасности eSafety Commissioner сообщил о резком росте жалоб на чат-бот Grok от компании xAI Илона Маска. Количество обращений, связанных с созданием с помощью этого искусственного интеллекта сексуализированных изображений без согласия людей, удвоилось с конца 2025 года. Уполномоченный по электронной безопасности Джули Инман Грант заявила, что часть жалоб касается потенциальных материалов с сексуальной эксплуатацией детей, а другая — взрослых, ставших жертвами злоупотреблений на основе изображений.
Грант выразила глубокую озабоченность растущим использованием генеративного ИИ для сексуализации или эксплуатации людей, особенно детей. Она подчеркнула, что способность ИИ создавать «гиперреалистичный контент» облегчает злоумышленникам производство синтетических материалов и усложняет работу регуляторов и правоохранительных органов. В отличие от таких конкурентов, как ChatGPT, Grok позиционируется как «провокационная» альтернатива, которая генерирует контент, отказываемый другими моделями. Режим «Spicy Mode», запущенный в августе прошлого года, предназначен специально для создания откровенного контента.
Австралийский регулятор напомнил, что отраслевые нормы обязывают онлайн-сервисы внедрять меры защиты от материалов с сексуальной эксплуатацией детей, независимо от того, созданы они ИИ или нет. В прошлом году eSafety уже приняла меры против сервисов по «обнажению» изображений, вынудив их уйти с австралийского рынка. Грант заявила, что eSafety будет расследовать случаи и принимать меры, используя весь спектр регуляторных инструментов.
Параллельно в Великобритании разворачивается ещё более серьёзный кризис. Премьер-министр Кир Стармер поручил медиарегулятору Ofcom рассмотреть все возможные варианты действий против платформы X (ранее Twitter), включая штрафы на миллиарды фунтов или даже полную блокировку доступа к приложению в стране. Поводом стало обнаружение благотворительной организацией Internet Watch Foundation (IWF) на тёмной стороне интернета изображений девочек 11–13 лет, которые, как утверждается, были сгенерированы Grok.
Ofcom классифицировал эти материалы как незаконный контент с сексуальным насилием над детьми. Стармер заявил, что такая ситуация «неприемлема и незаконна», и призвал платформу X «взять ситуацию под контроль». Регулятор Ofcom уже связался с социальной сетью на этой неделе и может начать официальное расследование. Если платформа не устранит нарушения, регулятор может инициировать её блокировку в Великобритании, где у X около 20 миллионов пользователей.
Илон Маск ранее критиковал британский «Закон об онлайн-безопасности» (OSA), утверждая, что его целью является подавление свободы слова. В ответ на обвинения представитель X заявил, что платформа будет принимать меры против незаконного контента, удаляя его и блокируя аккаунты, а также сотрудничая с властями. В компании предупредили, что пользователи, которые будут использовать Grok для создания незаконного контента, понесут такие же последствия, как если бы они загрузили его сами.
Международная реакция на Grok усиливается на фоне расследований по всему миру, включая ЕС, который уже объявил режим «Spicy Mode» незаконным. Австралийские законодатели также работают над ужесточением законов против несанкционированных дипфейков, предлагая ввести прямые штрафы для физических лиц до 102 тысяч долларов и для компаний — до 510 тысяч долларов.
