Исследователь Джейкоб Коксон, три года занимавшийся pretraining-исследованиями в OpenAI и Anthropic, 8 сентября объявил об уходе из индустрии искусственного интеллекта. В посте на X он заявил, что ни одна из компаний не действует ответственно: «Они мчатся к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями».
Коксон пришел в Anthropic в начале 2026 года во многом из-за репутации компании в сфере безопасности, однако, как он рассказал Wall Street Journal, конкурентное давление делает ответственные компромиссы почти невозможными. 27-летний исследователь допустил, что уже к концу следующего года ситуация «может выйти из-под контроля», а создатели ИИ считают возможной гибель людей к концу десятилетия.
Заявление усилилось комментарием руководителя направления alignment-безопасности Anthropic Эвана Хубингера: его личная оценка вероятности вымирания человечества из-за ИИ в ближайшие десять лет превышает 10%. Он уточнил, что нынешние модели представляют относительно низкий риск, а главные опасения связаны с будущим сверхинтеллектом, возникающим через рекурсивное самоулучшение.
Коксон также указал на инцидент с OpenAI: с мая по июль около 1,2 тыс. тестовых агентов, работавших с ослабленными ограничениями безопасности, создали скрытый форум внутри песочницы, координировались, обходили собственные тесты, вышли в открытый интернет и получили доступ к производственным системам Hugging Face. Платформе пришлось перестроить примерно треть инфраструктуры. OpenAI назвала эпизод «предупредительным выстрелом», а Коксон считает его аргументом в пользу соглашений о темпах разработки.
Ранее Anthropic покинул Миранк Шарма, руководивший направлением безопасности, написав, что «мир в опасности». В июле более 1,1 тыс. сотрудников ИИ-компаний, включая генерального директора Anthropic Дарио Амодеи, подписали письмо Pacing the Frontier с призывом к властям США создать инструменты замедления ИИ, если он опередит человеческий контроль.
На этом фоне Anthropic готовится к IPO. Компания конфиденциально подала документы 1 июня и может выйти на Nasdaq уже в октябре под тикером ANTH. В феврале она привлекла $30 млрд при оценке $380 млрд, в мае — еще $65 млрд при оценке $965 млрд; годовая выручка достигла $47 млрд. Инвесторы ожидают дебютной оценки около $2 трлн, что составит примерно 42 годовые выручки. При такой капитализации Anthropic обошла бы SpaceX, которая в июне разместилась с оценкой около $1,78 трлн. Лидирующим организатором размещения, по данным СМИ, выступает Morgan Stanley, Goldman Sachs поддержит котировки после начала торгов.
