Компания Anthropic предупредила, что компактные ИИ-модели могут уже через несколько месяцев получить способность копировать себя на дешёвых домашних устройствах, подключённых к интернету. Одновременно ФБР арестовало инженера OpenAI по делу об установке записывающего устройства в переговорной. Два инцидента не связаны между собой, однако оба подчёркивают растущее значение безопасности по мере распространения искусственного интеллекта.
Отчёт Anthropic Frontier Red Team был опубликован 12 октября. Исследователи Уильям Чжоу и Дэниел Фримен связали 15 недорогих Android TV-приставок стоимостью около $55 с 4 ГБ оперативной памяти каждая. С помощью конвейерного параллелизма они распределили слои модели Gemma4-26B-A4B с 26 млрд параметров по этим устройствам. Связка выдавала лишь 0,39 токена в секунду — слишком медленно для практического чат-бота. Как пояснили авторы, распространяющемуся ИИ-червю не нужна высокая скорость на отдельной машине: важнее охватить как можно больше устройств. В качестве примера плохо защищённых систем приведён ботнет Kimwolf, заразивший более двух миллионов в основном небрендированных Android-телевизоров.
В Anthropic процесс репликации разделили на четыре этапа: идентификация целей, получение возможности выполнять код, настройка вывода модели и повторение цикла с каждого заражённого устройства. Первые этапы взлома исследователи в значительной степени вынесли за скобки, сославшись на более ранние работы, согласно которым небольшие модели уже способны проводить киберэксплуатацию. В изолированной сети из восьми эмулированных Android-узлов в Google Cloud только GLM-5.2 китайской Z.ai прошла полный цикл копирования, достигнув всех восьми узлов в четырёх из пяти запусков. В контролируемой среде использовался незащищённый порт Android Debug Bridge, поэтому условия были менее безопасными, чем у правильно сконфигурированных устройств. Модель Qwen3.5-9B при передаче инструкций по настройке следующим поколениям увеличила успешность с 45% в первом поколении до 61–84% в последующих.
Пока ни одна из протестированных моделей не могла стабильно копировать себя на другое устройство, оставаясь достаточно компактной для смарт-ТВ. По оценке Anthropic, разрыв может быть закрыт к концу 2026 года, если лёгкие открытые модели продолжат развиваться текущими темпами. Настройка модели с 26 млрд параметров на ТВ-боксах заняла бы от 71 до 150 часов. Главная угроза — не скорость, а живучесть: у децентрализованной системы нет единого центра управления, который можно отключить.
Эксперт по ИИ и кибербезопасности из Луисвиллского университета Роман Ямпольский назвал выводы очень важными. По его мнению, ИИ-черви могут быть опаснее традиционного вредоносного ПО, поскольку способны рассуждать о незнакомых устройствах, адаптироваться при неудаче и распространяться без вмешательства человека. «Домашние и небольшие бизнес-устройства IoT могут стать первой целью таких атак, поскольку они подключены к интернету и исторически имеют минимальные меры безопасности», — написали Чжоу и Фримен.
Для защиты Anthropic предлагает удерживать среднее число новых заражений от каждого устройства ниже единицы, отслеживать аномально крупные передачи моделей и устойчивые коммуникации между устройствами, использовать honeypot-ловушки и изолировать скомпрометированные системы. В отчёте также отмечен британский запрет паролей по умолчанию для умных устройств как полезная мера. При этом в компании подчеркнули, что действующего самовоспроизводящегося ИИ пока не наблюдали, а текущие данные — лишь «признаки жизни». Одновременно Anthropic сообщила, что новые механизмы защиты снизили объём дистилляции моделей на 90–99%.
Параллельно ФБР расследует инцидент с прослушкой в OpenAI. Федеральные власти арестовали 35-летнего инженера компании, гражданина Саудовской Аравии Абдулрахмана Альфозана, 9 октября 2026 года, а 13 октября Министерство юстиции США объявило об обвинении в попытке перехвата устных коммуникаций с помощью электронного устройства. По данным следствия, миниатюрное записывающее устройство было спрятано в туалетной бумаге и подключено к USB-порту телевизора в переговорной для руководителей в офисе OpenAI в Сан-Франциско около 28 сентября 2025 года. Служба безопасности обнаружила его 30 сентября. Устройство имело шифрование и функции аудиомониторинга, а также механизм передачи данных, затрудняющий обнаружение. Помещение использовалось для обсуждения конфиденциальных исследований, разработки продуктов, коммерческих планов и стратегических решений, а также взаимодействия с государственными органами.
По версии обвинения, с 24 по 30 сентября аккаунт чат-бота, связанный с супругой Альфозана, использовался для запросов о сборке, установке, тестировании и шифровании записывающего устройства. Кроме того, через рабочий сервис запрашивалась информация о расположении офисов, переговорных, календарях и встречах с участием руководства. 5 октября Альфозан, как утверждается, вернулся в переговорную и проверял место за телевизором. Позже было найдено ещё одно аналогичное устройство в оставленной сумке в другом помещении.
OpenAI ограничила доступ Альфозана к системам и объектам, затем уволила его и сотрудничает со следствием. «На данный момент у нас нет признаков неправомерного доступа или извлечения весов моделей, исходного кода или данных клиентов», — заявили в компании. Расследование продолжается, обвинения пока не доказаны в суде. Если вина будет доказана, Альфозану грозит до пяти лет тюремного заключения, штраф до $250 000 и три года надзора. Слушание о мере пресечения назначено на 19 октября. Оба случая усиливают внимание к контролю доступа, мониторингу и защитным мерам, которые должны успевать за развитием ИИ.
