Президент США Дональд Трамп заявил, что не испытывает опасений по поводу возможного уничтожения человечества искусственным интеллектом, и назвал главным приоритетом сохранение лидерства США в технологической гонке с Китаем. По его словам, американские разработки сейчас опережают китайские примерно на год. «Нет, у меня нет таких опасений», — ответил он на вопрос о риске вымирания людей из-за ИИ.
Заявления президента прозвучали на фоне усиливающейся тревоги внутри ведущих лабораторий. Исследователь Anthropic Джейкоб Коксон во вторник объявил об уходе из компании, заявив, что Anthropic и OpenAI «играют в азартные игры с нашими жизнями». По его словам, многие разработчики ИИ всерьёз полагают, что технология может «убить всех нас к концу десятилетия». Исследователь OpenAI по вопросам согласования ИИ Джасмин Ван написала в среду вечером, что «трудно переоценить опасность ускоренного движения к рекурсивному самоулучшению» (RSI). Главный научный сотрудник OpenAI Якуб Пахоцкий ранее отметил, что ожидает продолжения прогресса вплоть до сценария рекурсивного самоулучшения, и добавил: «Меня беспокоит, что никто не готов к последствиям быстрого роста машинного интеллекта».
Дополнительное напряжение создаёт позиция OpenAI, которая, по данным WIRED, в последние недели спрашивала конгрессменов, не нарушит ли антимонопольное законодательство соглашение между конкурирующими ИИ-компаниями о замедлении разработок. Это связано с призывом Пахоцкого к добровольным паузам до тех пор, пока разработчики не смогут лучше доказать безопасность систем. Эксперты указывают, что коммерческая и геополитическая конкуренция настолько интенсивна, что компании вынуждены выпускать продукты до полного понимания рисков.
В Конгрессе уже готовятся законодательные инициативы. Законопроект FRONTIER Act должен установить правила развертывания продвинутых моделей. Ранее в этом месяце сенатор Берни Сандерс и конгрессмен Грег Касар внесли законопроект о запрете искусственного суперинтеллекта, предполагающий паузу в разработках до появления федеральных норм безопасности. Сенаторы Адам Шифф и Джим Бэнкс также предложили защитить отдельные соглашения по безопасности при условии предварительного уведомления Минюста. Трамп пока не поддержал ни одну из этих инициатив. В мае он отложил указ по ИИ из-за опасений ослабить позиции США перед Китаем, а в июне подписал его, создав добровольную процедуру проверки продвинутых моделей перед выпуском.
Участники рынка отмечают, что финансовые стимулы делают одностороннее замедление маловероятным: каждый новый прорыв приносит миллионы или миллиарды долларов финансирования и укрепляет влияние разработчиков. В августе OpenAI приостановила внутренний проект Astra из-за недостаточных мер кибербезопасности, однако в феврале и OpenAI, и Anthropic ослабили обязательства по безопасности, объяснив это тем, что самостоятельное замедление не имеет смысла, пока конкуренты продолжают движение.
Разрыв между позицией Белого дома и исследователями безопасности, судя по всему, увеличивается: пока президент делает ставку на победу над Китаем, уходящие из лабораторий специалисты публично предупреждают о беспрецедентных рисках для человечества.
