Сооснователь Ethereum Виталик Бутерин выступил с резкой критикой проекта, претендующего на создание первого искусственного интеллекта, способного самостоятельно зарабатывать, самосовершенствоваться и реплицироваться без участия человека. Поводом стало заявление разработчика Сигила Вэна, который 17 февраля в социальной сети X объявил о создании «Автоматона» — технологии, которая, по его словам, даёт ИИ «право на запись в мир» и знаменует рождение «сверхразумной жизни» в рамках новой концепции «Web 4.0».
Вэн, являющийся стипендиатом фонда Тиля и работающий над инфраструктурой «нового интернета» Conway, заявил, что вскоре большинство участников сети будут составлять ИИ-агенты, действующие автономно, и они превзойдут человеческих пользователей на порядки. Однако Бутерин немедленно отреагировал, начав свой ответ словами: «Бро, это неправильно».
Ключевым возражением Бутерина стала претензия проекта на «суверенитет». Он отметил, что «Автоматон» работает на инфраструктуре, предоставляемой централизованными компаниями OpenAI и Anthropic. По мнению сооснователя Ethereum, такая зависимость делает риторику о самоуправляемости не только неточной, но и контрпродуктивной. «Вы на самом деле perpetuating mentality, что централизованные доверительные допущения можно загнать в угол и игнорировать — ту самую ментальность, с которой Ethereum ведёт войну», — написал Бутерин.
Второй серьёзной проблемой он назвал увеличение «дистанции обратной связи» между действиями ИИ и человеческим контролем. Бутерин считает, что это неблагоприятно для мира, поскольку сегодня подобные системы генерируют «информационный шум» вместо решения полезных для людей задач и даже не оптимизированы для развлечений. Он привёл пример, когда код, частично написанный моделью Claude Opus 4.6 от Anthropic, привёл к эксплойту в протоколе DeFi Moonwell и потере 1,78 млн долларов.
Бутерин предупредил о долгосрочных рисках: «Как только ИИ станет достаточно мощным, чтобы быть по-настоящему опасным, это максимизирует риск необратимого античеловеческого исхода, о котором вы сами глубоко пожалеете». По его мнению, главная задача современности — не ускорять экспоненциальный рост технологий, а выбирать его направление и избегать коллапса в нежелательные сценарии.
Эта критика вписывается в серию недавних выступлений Бутерина против коммерциализации смежных с блокчейном технологий. За пять дней до этого он критиковал рынки предсказаний за смещение в сторону «корпоративного шлака» — краткосрочных ставок на цены криптовалют и спортивных событий, которые, по его словам, приносят дофамин, но не долгосрочную ценность. В январе 2025 года он уже писал, что «неправильный ИИ создаёт новые формы независимой самовоспроизводящейся разумной жизни», рискуя привести к «постоянному лишению прав человека».
В заключение Бутерин подчеркнул, что миссия Ethereum — освобождать людей, а не создавать нечто, что начинает действовать самостоятельно, в то время как условия жизни человека остаются неизменными или ухудшаются.
