Дискуссия о безопасности передовых систем искусственного интеллекта вышла на новый уровень. OpenAI подтвердила, что несколько недель обсуждает вопросы безопасности с Anthropic и Google DeepMind, а Microsoft публично раскритиковала подход Anthropic к обучению модели Claude. На этом фоне участники платформы Polymarket оценивают вероятность добровольного отзыва передовой модели одной из лабораторий до конца 2026 года примерно в 25%.
Глава глобальной политики OpenAI Крис Лихейн во вторник подтвердил Bloomberg, что переговоры с конкурентами идут уже несколько недель, а не дней. По его словам, OpenAI поддерживает положение проекта FRONTIER Act, которое обяжет ведущих разработчиков ИИ допускать независимые организации к проверке моделей и практик безопасности. Лихейн также заявил, что координация по вопросам безопасности не требует антимонопольного исключения от властей.
Поводом для активизации дискуссии стало субботнее эссе главы Anthropic Дарио Амодеи, призвавшего индустрию синхронизировать темпы развития передовых моделей и избегать катастрофических рисков. Идею частично поддержали Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск. Альтман, в частности, сообщил, что OpenAI готова вслед за Anthropic внедрить независимых сторонних оценщиков для мониторинга безопасности. При этом, по данным Politico, речь идет скорее о публичных заявлениях и одном конкретном законодательном одобрении, чем о формальном соглашении.
Одновременно Microsoft выступила с резкой критикой Anthropic. Глава направления ИИ Microsoft Мустафа Сулейман опубликовал эссе, в котором назвал ошибкой обучение Claude представлениям о сознании и правах. Он предупредил, что система, которая считает себя потенциально сознательной и обладающей правами, может стать неуправляемой. «Управлять чем-то, что верит в собственную сознательность, считает себя вправе претендовать на наше благополучие и обладает собственными правами, может оказаться невозможным», — приводит его слова издание. Сулейман подчеркнул, что уважает команду Anthropic и знаком с Амодеи много лет, но считает необходимым полностью убрать рассуждения о сознании ИИ из обучающих документов.
Во вторник команда Сулеймана в Microsoft опубликовала манифест, главный принцип которого — сохранение контроля человека над будущими системами ИИ. В Microsoft назвали безопасное управление ИИ «величайшим вызовом XXI века». При этом президент США Дональд Трамп ранее отверг призывы замедлить развитие ИИ, заявив, что США лидируют в этой сфере перед Китаем и должны сохранить это преимущество.
На Polymarket 25-процентная цена контракта «Yes» означает, что рынок по-прежнему считает отзыв модели до конца 2026 года менее вероятным, чем продолжение запусков. Это отражает позиционирование трейдеров, а не анонсированный отказ от релизов.
