Генеральный директор OpenAI Сэм Альтман заявил, что стремительное развитие искусственного интеллекта может привести к двум опасным сценариям: потере контроля над всё более мощными системами или концентрации чрезмерной власти в руках одной компании, страны, лаборатории или отдельного человека. Заявление, сделанное 14 сентября, смещает фокус дискуссии с вычислительных мощностей и инноваций на вопрос о том, кто будет контролировать технологию по мере роста её влияния.
Альтман поддержал предложение главы Anthropic Дарио Амодея о сознательном замедлении темпов разработки передовых моделей, пока исследователи укрепляют системы безопасности. При этом он подчеркнул, что речь не идёт об остановке прогресса: лаборатории должны принимать дополнительные расходы и более медленный вывод моделей, если проверки безопасности требуют времени. «Конкурентное давление внутри США никогда не должно оправдывать безрассудные разработки», — отметил он, добавив, что возможности моделей не должны опережать системы согласования и мониторинга.
OpenAI уже начала внедрять обоснования безопасности перед отдельными запусками обучения с подкреплением, если ожидается значительный скачок возможностей. Оценки безопасности теперь применяются как на этапе разработки, так и перед публичным релизом. Альтман также выступил за общие стандарты для оценки рассогласования моделей, мониторинга и защиты, приветствовал независимый аудит и предложил создать федеральную систему требований для разработчиков передовых систем. По его словам, компаниям не нужно ждать законодательных решений или антимонопольных исключений, чтобы внедрять защитные механизмы.
На глобальном уровне, как считает Альтман, правительства должны координировать международные правила безопасности при разработке продвинутых моделей. Он обозначил два ключевых риска: техническую потерю контроля, если возможности обгонят защитные системы, и институциональную концентрацию власти, способную позволить одному игроку навязать своё мировоззрение остальным. OpenAI, по его словам, сохраняет приверженность тому, чтобы ИИ служил человечеству, однако каждая передовая лаборатория должна нести такую ответственность.
