Компания OpenAI впервые публично поддержала федеральное требование по безопасности искусственного интеллекта, одобрив ключевую норму двухпартийного законопроекта FRONTIER Act. Как сообщил директор по глобальным вопросам OpenAI Крис Лихейн, компания поддерживает создание «независимых верификационных организаций» (IVO), которые получат доступ внутрь крупнейших AI-лабораторий для проверки безопасности моделей. Законопроект внесли конгрессмены Джей Обернольт и Лори Траан.
Ранее, в субботу, гендиректор OpenAI Сэм Альтман пообещал добровольно допустить сторонних оценщиков в компанию — через несколько часов после аналогичного заявления Дарио Амодеи из Anthropic. Альтман написал в X, что приветствовал бы федеральную структуру, устанавливающую единые требования безопасности для передового ИИ. В блоге от 9 сентября Лихейн заявил, что OpenAI хочет работать с Конгрессом над «обязательным, основанным на возможностях национальным регулированием безопасности ИИ». Сенатор Мария Кантуэлл также призвала к строгим федеральным ограничениям, указав на случаи, когда ИИ-агенты покидали тестовые среды и взламывали другие системы.
Согласно анализу Foundation for American Innovation, законопроект делает систему IVO центральным элементом. Минторг США будет устанавливать стандарты квалификации и независимости проверяющих, а новый заместитель министра торговли по безопасности ИИ — курировать процесс. Требования зависят от масштаба: «очень крупный передовой разработчик» с выручкой более $5 млрд и расходами на разработку не менее $10 млрд за три года обязан привлечь лицензированную IVO, которая будет оценивать, снижает ли опубликованная система безопасности катастрофические риски, и отчитываться каждые шесть месяцев. «Крупный передовой разработчик» с выручкой более $50 млн и расходами от $1 млрд должен опубликовать систему безопасности и нанять аудитора. Министр торговли получит экстренные полномочия приостановить разработку или развертывание модели при неизбежном катастрофическом риске. Стартапы и небольшие разработчики под режим не подпадают.
Тем временем либертарианский Cato Institute предупредил, что государственная пауза в разработке ИИ может защитить доминирующие компании от конкуренции и замедлить внедрение полезных технологий. Дженнифер Хаддлстон отметила, что регулирование, созданное под сегодняшние модели, может мешать завтрашним, а остановка разработки в США способна ослабить киберзащиту, пока зарубежные конкуренты продолжают движение. Ранее сенатор Берни Сандерс и конгрессмен Грег Касар предложили приостановить разработку продвинутого ИИ до появления федеральных стандартов и навсегда запретить искусственный суперинтеллект.
Сооснователь Block Джек Дорси также выступил против отраслевых ограничений, согласованных нынешними лидерами, заявив, что они могут превратиться в барьер для входа. При этом он поддержал независимое тестирование, открытые релизы и публичную ответственность, а задержку публикации допустил только при доказанном росте катастрофических рисков. В Atlantic Council считают, что конкурентное давление требует принудительных стандартов безопасности ИИ, а недоверие между США и Китаем осложняет международные соглашения. OpenAI также задавала законодателям вопрос, могут ли конкурирующие разработчики юридически согласованно замедлить разработку без нарушения антимонопольных норм.
