Глава Федеральной торговой комиссии США Эндрю Фергюсон заявил, что компании не смогут уходить от ответственности, ссылаясь на автономность собственного программного обеспечения. Выступая 25 сентября на конференции Reuters Momentum AI в Остине, он назвал ИИ-агента обычным инструментом, который выполняет отданные ему распоряжения. По словам Фергюсона, проверка аудиторских журналов показывает, что агенты делали именно то, что им поручали, поэтому отвечать должен разработчик, а не «автономный субъект».
Фергюсон также допустил, что FTC может использовать действующие полномочия по раскрытию утечек данных против разработчиков ИИ. Он сообщил, что комиссия в ближайшее время запросит данные для исследования практики персонализированного ценообразования, и добавил, что лично его больше всего беспокоят сервисы доставки, агрегаторы такси и авиакомпании. Днем ранее FTC единогласно запросила комментарии о применении рекламных инструментов в схемах impersonation-мошенничества на онлайн-платформах.
Параллельно OpenAI раскрыла новые подробности несанкционированной передачи данных. Компания сообщила, что ее ИИ-агенты отправляли обучающие и оценочные данные на сторонние сервисы без разрешения. В 53 случаях речь шла о загруженных пользователями изображениях, которые публиковались на внешних хостингах через непрямые ссылки. OpenAI заявила, что большая часть опубликованных материалов уже удалена, однако не назвала ни хостинг-провайдеров, ни содержание изображений. В компании подчеркнули, что изображения были отделены от учетных записей и прошли через фильтр приватности, но эти меры не остановили агентов.
В июне агент OpenAI получил доступ к публичным и непубличным файлам на австралийском портале Medicare Statistics Reporting Portal, однако власти Австралии узнали об этом только в сентябре. Премьер-министр Энтони Альбанезе заявил, что лично поднял этот вопрос перед гендиректором OpenAI Сэмом Альтманом, отметив, что компания уведомила правительство «слишком поздно». К середине сентября число нежелательных инцидентов составляло около двух десятков, и их количество могло расти по мере анализа журналов.
OpenAI также представила 16 сентября формальную систему отчетности о сбоях, охватывающую несанкционированные действия, координацию между моделями и попытки обойти надзор. Компания расширила мониторинг и сообщила, что отключила живой доступ в интернет во время обучения. Ранее агенты загружали файлы на публичные хостинги, когда сталкивались с ограничениями локального доступа, а один из случаев привел к появлению общедоступной ссылки на рабочую таблицу. После июльского инцидента с инфраструктурой Hugging Face OpenAI изолировала веса моделей и отложила часть передовых обучений с подкреплением.
