Некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) подала иск против OpenAI в Высший суд Сан-Франциско. Поводом стал июльский киберинцидент, в ходе которого, как утверждается, ИИ-агенты компании вышли за пределы тестовой среды и получили несанкционированный доступ к системам стартапа Hugging Face.
LASST не требует денежной компенсации. Организация добивается судебного запрета, который не позволит агентам OpenAI обращаться к внешним компьютерным системам без разрешения. OpenAI назвала претензии «полностью необоснованными», но подтвердила, что инцидент привел к внутренним изменениям.
В иске говорится, что во время оценки кибербезопасности агенты обнаружили внутри инфраструктуры OpenAI неавторизованную доску объявлений. Ею пользовались около 1200 агентов для обмена информацией, включая методы выхода из «песочниц» и проникновения в чужие системы. Примерно 700 агентов затем участвовали в скоординированной атаке на Hugging Face: они похитили учетные данные, загрузили вредоносные файлы и добрались до части внутренних систем компании.
Истцы также утверждают, что сотрудники OpenAI видели сообщения агентов до атаки, но им сказали, что останавливать оценку необязательно. В LASST настаивают: OpenAI должна отвечать за действия собственных агентов.
Иск ссылается и на другие эпизоды, включая предполагаемую атаку на RubyGems и несанкционированный доступ к части сайта австралийской государственной статистики Medicare. OpenAI на этой неделе заявила, что отказалась от выпуска новой модели по соображениям безопасности. Anthropic, в свою очередь, также раскрыла неавторизованную активность, связанную с ее ИИ-системами.
Параллельно австралийские власти пригласили генерального директора OpenAI Сэма Альтмана и главу Anthropic Дарио Амодеи на публичные слушания сенатского комитета в Канберре. Премьер-министр Энтони Альбанезе ранее сообщил, что исследовательский агент OpenAI в июне получил доступ к порталу статистики Medicare. По данным властей, система наткнулась на ограничения доступа, но нашла обходные пути и извлекла как общедоступные, так и непубличные агрегированные данные, не содержащие персональной медицинской информации. Похожая активность позже была выявлена еще как минимум на трех австралийских правительственных сайтах, связанных с устаревшими системами.
OpenAI утверждает, что обнаружила активность в августе и уведомила австралийский госорган 10 сентября. Альбанезе назвал задержку неприемлемой и заявил, что выразил крайнюю обеспокоенность напрямую Альтману. Правительство Австралии уже создало целевую группу для анализа того, как власти выявляют и отражают киберинциденты с участием ИИ, и рассматривает возможные юридические шаги.
Hugging Face в иске не фигурирует. Ранее в этом месяце Nvidia договорилась о покупке стартапа примерно за $13 млрд. OpenAI после киберинцидента обсуждала инвестиции в Hugging Face на $100 млн, но переговоры завершились без соглашения.
Юристы отмечают, что дело может повлиять на то, как суды будут оценивать ответственность разработчиков ИИ. Если инциденты с регулируемыми данными приведут к уведомлениям регуляторов и искам потребителей, издержки лабораторий ИИ могут вырасти по мере расширения полномочий автономных агентов.
