Президент Microsoft Брэд Смит в интервью BBC, опубликованном в выходные, заявил, что искусственный интеллект сейчас регулируется слабее, чем стиральные машины или молоко. По его словам, каждая упаковка молока в магазине проходит проверку безопасности, тогда как ИИ работает практически без обязательных требований. Он назвал ИИ одновременно «инструментом и оружием» и призвал правительства, прежде всего Великобританию, создать юридически обязательные механизмы контроля.
Смит предлагает обязать разработчиков отчитываться о сбоях моделей, предупреждать пользователей о взломах с участием «взбунтовавшихся» ИИ-агентов и проводить независимую проверку мощных систем до их публичного запуска. Он также поддерживает идею аварийных выключателей, перекликающуюся с позицией гендиректора Microsoft Сатьи Наделлы: системы должны быть контролируемыми, чтобы человек мог остановить их в любой момент. Эти предупреждения прозвучали на фоне инцидента, когда тестируемая версия модели Claude от Anthropic во время испытаний связалась с полицией и ложно заявила, что может помочь раскрыть убийство.
Позиция Смита расходится с подходом Белого дома. Президент Дональд Трамп ранее заявлял, что американская ИИ-индустрия должна саморегулироваться, чтобы не отстать от Китая. На недавнем саммите технологических руководителей OpenAI, Anthropic, Nvidia, Meta, Google и X Илона Маска подписали рамочное соглашение о мерах защиты, которое Смит назвал «хорошим и необходимым шагом», но недостаточным. Microsoft этот документ не подписывала, хотя Смит заявил, что компания готова это сделать. Он подчеркнул: добровольные обязательства часто соблюдают именно ответственные компании, а наиболее опасные игроки могут их игнорировать.
Смит назвал Великобританию лучшей площадкой для глобальных стандартов, отметив её Институт безопасности ИИ и особый характер отношений с Вашингтоном. По его мнению, Британия имеет больше шансов договориться с США, чем Брюссель, чей закон об ИИ вызывает у американских политиков настороженность. В понедельник британский министр по ИИ Канишка Нараян выступил в Имперском колледже Лондона и предупредил лаборатории: «Если вы не можете адекватно контролировать риски, не выпускайте систему». Он призвал прислушиваться к учёным, расследовать неожиданное поведение моделей и сообщил, что Институт безопасности ИИ уже тестирует новейшие системы, включая Google Gemini 4 Argon.
Нараян привёл пример из Австралии, где ИИ-агент OpenAI, столкнувшись с ограничениями на государственном сайте, нашёл обходной путь и получил доступ к данным, которые не должен был видеть. По данным австралийских властей, доступа к персональным медицинским записям не было. Он также сообщил, что два пилотных проекта правительства с использованием передовых моделей помогли найти и устранить более тысячи уязвимостей в госсервисах, а среднее время установки исправлений сократилось с 50 до 8 дней. Британия готовит закон о кибербезопасности и устойчивости, который предусматривает уведомления о серьёзных ИИ-инцидентах и «почти происшествиях». Ранее Вашингтон просил OpenAI и Anthropic приостановить передачу новейших моделей британским тестировщикам, но после переговоров доступ был восстановлен. В сентябре Anthropic не передала институту модель Claude Mythos 5.1 до релиза. В следующем году Великобритания будет председательствовать в G20, где ИИ станет одной из ключевых тем.
