Министерство коммуникаций и цифровых технологий Индонезии объявило об условном снятии запрета на использование чат-бота Grok, разработанного компанией xAI Илона Маска. Это решение последовало за аналогичными шагами Малайзии и Филиппин, которые отменили ограничения 23 января. Поводом для первоначальных запретов в регионе стала массовая генерация неправомерного контента: в конце декабря и январе с помощью Grok было создано не менее 1,8 млн сексуализированных изображений женщин, включая образы реальных людей и несовершеннолетних.
Условия восстановления доступа носят строгий и временный характер. Как заявил директор по мониторингу цифрового пространства министерства Александр Сабар, запрет может быть немедленно восстановлен при выявлении новых нарушений. Решение было принято после получения от X (подразделения xAI) подробного письма с планом улучшений и предотвращения злоупотреблений. В ответ на скандал xAI уже ограничила функцию генерации изображений в Grok только для платных подписчиков платформы X.
Тем временем в США ситуация развивается по иному сценарию. Коалиция влиятельных организаций, включая Public Citizen, Центр политики в области ИИ и цифровых технологий и Федерацию потребителей Америки, потребовала от федерального правительства ввести полный запрет на использование Grok в госучреждениях. В открытом письме они указывают на системные сбои безопасности ИИ, приведшие к созданию тысяч изображений сексуального характера без согласия, в том числе с участием детей.
Особую озабоченность вызывает использование Grok в оборонном ведомстве. Как подтвердил в январе министр обороны США Пит Хегсет, чат-бот работает в сетях Пентагона, обрабатывая как секретные, так и несекретные документы. Эксперты по кибербезопасности, такие как бывший подрядчик АНБ Эндрю Кристиансон, предупреждают, что закрытая архитектура модели делает её неаудируемой, что создаёт серьёзные риски для национальной безопасности при обработке конфиденциальных данных.
Коалиция также обращает внимание на противоречие между развёртыванием Grok и недавно принятым Законом о удалении неправомерного контента (Take It Down Act), который поддерживает администрация Белого дома. Несмотря на директивы Управления по управлению и бюджету (OMB) о выводе из эксплуатации ИИ-систем с неприемлемыми рисками, Grok продолжает использоваться.
Аналитики, такие как доктор Аня Шарма из Сингапурского института технологий, видят в действиях Индонезии новый подход к регулированию: доступ к передовому ИИ становится привилегией, которую компании должны заслужить, продемонстрировав подотчётность и внедрив надёжные защитные механизмы. Этот прецедент может задать тон для глобального управления генеративным искусством.
