Исследователи из консорциума Initiative for CryptoCurrencies and Contracts (IC3), объединяющего специалистов из Корнелла, Карнеги-Меллона, Принстона, Йеля и ETH Zurich, опубликовали в понедельник работу, в которой утверждается, что возможности криптовалют и блокчейна в решении фундаментальных задач искусственного интеллекта сильно преувеличены. В обзоре разбираются три мифа: о финансовой автономии ИИ-агентов, о проверке происхождения контента и о борьбе с алгоритмической предвзятостью.
По мнению авторов, предоставление ИИ-агенту криптокошелька не делает его по-настоящему автономным — это лишь автоматизирует транзакции без участия человека, но не повышает интеллектуальные способности и не защищает от манипуляций. «Доступ к кошельку позволяет программируемо торговать и взаимодействовать с ончейн-инфраструктурой без циклов одобрения человеком», — поясняют учёные. При этом традиционные платежные системы тоже способны обеспечить подобную автоматизацию.
В тот же день компания Consensys анонсировала ранний доступ к некастодиальному кошельку MetaMask Agent Wallet, ориентированному на операции ИИ-агентов в DeFi. Основатель Consensys Джо Любин заявил, что «следующее великое расширение ончейн-экономики будет происходить не только за счёт людей». Параллельно торговая платформа Robinhood подтвердила планы разрешить клиентам делегировать торговлю цифровыми активами автоматизированным агентам — сначала в пилотном режиме на рынке акций.
Что касается определения сгенерированного ИИ контента, блокчейн, как отмечает IC3, подходит для фиксации временных меток и регистрации цифровых артефактов, но не способен самостоятельно верифицировать, кем создан файл. Для этого нужен внешний классификатор, ошибка которого попадёт в неизменяемый реестр. Поэтому роль распределённого реестра сводится лишь к сохранению заявлений о контенте, но не к установлению истины.
Проблему алгоритмической предвзятости децентрализация также не решает, подчёркивают исследователи: искажения возникают на этапе обучения моделей, а прозрачность или расширение числа участников управления не устраняют математический источник ошибки. Документ IC3 редактировали Джулия Фанти из Карнеги-Меллона и Ари Джуелс из Cornell Tech (главный научный сотрудник Chainlink Labs).
