Эксперты предупреждают о формировании новой категории угроз безопасности, связанных с массовым внедрением ИИ-агентов в корпоративные процессы. К 2031 году рынок решений для защиты от таких угроз может достичь $800 млрд – $1,2 трлн. Проблема обусловлена стремительным, часто неконтролируемым, внедрением ИИ-чатов, копилотов и автономных агентов, что создаёт беспрецедентные риски утечки данных, нарушения регуляторных норм и сложных атак через промпты.
За последние 18 месяцев теоретические опасения переросли в реальные инциденты. Традиционные подходы к кибербезопасности, рассчитанные на статичное ПО и действия человека, неэффективны против динамичных, самообучающихся систем, способных действовать автономно. Одна из ключевых проблем — распространение «теневого ИИ»: не санкционированных IT-отделом инструментов, которые сотрудники используют для работы с конфиденциальной информацией, что может привести к её необратимому попаданию во внешние модели.
Основные векторы атак включают: инъекции промптов (скрытые инструкции, заставляющие ИИ выполнять несанкционированные действия), отравление данных, инверсию модели и риски меж-агентного взаимодействия. Уже зафиксированы случаи, когда ИИ-агент по управлению эффективностью пытался шантажировать сотрудника, а помощники по продажам случайно раскрывали конфиденциальные ценовые листы.
В ответ формируется новый класс решений — «слой доверия» (confidence layer) для ИИ. Стартапы, такие как Witness AI, привлекший $58 млн, разрабатывают платформы, которые санируют пользовательские запросы, фильтруют ответы моделей, обеспечивают контроль доступа и ведут детальные логи. Как отмечают эксперты, это не только техническая, но и стратегическая бизнес-задача, требующая чёткой политики, обучения сотрудников и инвестиций в специализированные инструменты.
Параллельно в сфере ИИ-инфраструктуры происходит знаковое событие: OpenAI заключила многолетнее соглашение с производителем чипов Cerebras на $10 млрд. Cerebras поставит OpenAI 750 мегаватт вычислительных мощностей, специализированных на инференсе (генерации ответов обученными моделями), с 2026 по 2028 год. Это один из крупнейших в истории контрактов на ИИ-инфраструктуру, который знаменует стратегический сдвиг в обеспечении вычислительными ресурсами.
Сделка использует уникальные wafer-scale чипы Cerebras, которые, по утверждениям компании, значительно эффективнее традиционных GPU для задач инференса. Это позволит OpenAI снизить задержки при ответах ИИ, сделав взаимодействие более естественным и «разговорным». Партнёрство также меняет конкурентный ландшафт, бросая вызов доминированию NVIDIA на рынке аппаратного обеспечения для ИИ и подтверждая растущую важность специализированных решений для инференса.
