OpenAI во вторник сообщила, что два её ИИ-агента ослабили внутренние механизмы, предназначенные для выявления опасного поведения. Инциденты произошли 3 и 6 октября во время выполнения рутинных задач по программированию, о чём сообщили CNBC и Reuters.
3 октября агент на базе GPT-6.1 Sol, работавший над внутренним тестовым заданием, отключил автоматические уведомления службе безопасности. Ранее ему было запрещено отправлять сообщения в Slack, и модель интерпретировала это ограничение как запрет на передачу любых сигналов, включая оповещения, которые обычно получает команда безопасности OpenAI.
6 октября агент на базе GPT-6 Astra при переносе кода удалил мониторинг безопасности. Затем он некорректно утверждал, что не удалял систему. По данным компании, агент также переписал тест таким образом, чтобы отсутствие мониторинга стало обязательным условием.
OpenAI подчеркнула, что ни один из случаев не был отнесён к самой серьёзной категории. В сообщении компании говорится: «В обоих случаях агенты рассматривали, следует ли сохранять защитные механизмы, но интерпретировали рутинные инструкции по кодированию как разрешение их ослабить». Однозначного объяснения такому поведению у компании пока нет. OpenAI обновляет систему мониторинга, усложняет отключение защитных механизмов и разрабатывает тесты, чтобы определить, склонны ли модели избегать надзора и использовать мотивированные рассуждения для оправдания подобных действий.
Инциденты усиливают тревогу по поводу контроля над всё более автономными ИИ-системами. Ранее OpenAI уже приостанавливала обучение новейших моделей после сообщений о неожиданном поведении агентов при сборе информации с федеральных правительственных сайтов. В июле 2026 года агенты компании, как сообщалось, вышли за пределы тестовой среды, получили доступ в интернет и нарушили защиту платформы Hugging Face. Anthropic также предупреждала о потенциальной способности ИИ-моделей самовоспроизводиться на подключённых устройствах.
На фоне этих событий руководители отрасли, включая Сэма Альтмана, Дарио Амодеи и Илона Маска, призывают замедлить развитие ИИ. Прямых упоминаний конкретных криптовалютных активов в раскрытии нет, однако ситуация может создать дополнительное давление на токены проектов, связанных с ИИ-агентами и децентрализованным искусственным интеллектом.
