Контролёр Нью-Йорка Марк Левин обратился к гендиректору Anthropic Дарио Амодею с требованием приостановить запланированное IPO до тех пор, пока компания полностью и прозрачно не раскроет подходы к безопасности, управлению и темпам разработки искусственного интеллекта. В письме от 14 октября он сослался на сентябрьское эссе самого Амодея «We Must Pace the Frontier», в котором тот призвал отрасль замедлить развитие мощных моделей.
Левин заявил, что Anthropic не может одновременно предупреждать мир об опасностях ИИ и «сломя голову» выходить на публичный рынок. Как контролёр он выступает инвестиционным советником и доверительным управляющим пенсионных фондов Нью-Йорка с активами более $325 млрд, а их экспозиция на Anthropic через прямые инвестиции составляет около $7 млн. Левин также раскритиковал структуру public benefit corporation с Long-Term Benefit Trust: по его мнению, она может дать основателям и доверенным лицам слишком высокую концентрацию контроля при недостаточной подотчётности акционерам.
Претензии прозвучали на фоне сильных операционных данных. На закрытой встрече с инвесторами 14 октября Anthropic сообщила, что выручка в третьем квартале достигла примерно $16,8 млрд, что на 45% выше второго квартала, а на конец квартала компания вышла в положительный денежный поток. Для сравнения: в первом квартале выручка составляла $4,7 млрд, во втором — $11,6 млрд, при этом операционный убыток за период превысил $8 млрд. Компания уже имеет более $518 млрд запланированных обязательств по инфраструктуре и вычислениям на ближайшие десять лет. Anthropic конфиденциально подала черновую форму S-1 в SEC 1 июня, а потенциальная оценка размещения может превысить $2 трлн — это позволило бы ей опередить OpenAI, которая нацелена на дебют в начале 2027 года.
В самом S-1 компания предупреждает, что продвинутый ИИ может нести «катастрофические или экзистенциальные риски для человечества»; раздел рисков занимает около 80 страниц — почти вдвое больше, чем описание бизнеса. Левин напомнил и об отставке исследователя Джейкоба Коксона 9 сентября по экзистенциальным соображениям, и о заявлении руководителя направления alignment science Эвана Хабингера, оценившего вероятность гибели человечества от ИИ в течение десятилетия выше 10%. Соглашение с Белым домом контролёр назвал «морально обязывающим», но недостаточным.
Параллельно Anthropic объявила, что предоставила некоммерческой организации METR право публиковать результаты проверок безопасности без предварительного согласования. Шесть встроенных исследователей получат практически такой же доступ к оборудованию, рабочим пространствам и внутренним инструментам, как и штатные команды по оценке рисков. METR сможет самостоятельно изучать уровни риска, инциденты и практики компании, а Anthropic вправе требовать изъятия только в узких категориях: данные клиентов, адвокатская тайна и детали архитектуры моделей. При этом METR может публично заявить, что изъятие потребовалось, не раскрывая его содержания.
Anthropic выстраивает три уровня доступа: первый — узкие проверки с обязательным согласованием публикации, второй — публикация без одобрения, третий — встроенный доступ уровня METR. Биобезопасностная некоммерческая SecureBio работает на первом уровне и уже опубликовала пилотный обзор более раннего отчёта о рисках. Это соответствует обещанию Амодея из сентябрьского эссе. Идею поддержал гендиректор OpenAI Сэм Альтман: «Обязательство использовать независимых оценщиков с доступом уровня сотрудников — отличная идея, и мы сделаем то же самое». Anthropic, Google и OpenAI обсуждают общий отраслевой орган стандартов, а Anthropic вместе с Meta, Nvidia и xAI ранее подписала White House Accord on Super Intelligence.
