На конференции Black Hat в Лас-Вегасе альянс Open Secure AI (OSAA), созданный Nvidia менее двух недель назад, объявил о формировании рабочей группы SAFE (Shared AI Findings Exchange) и представил первые проекты руководств по обмену данными об инцидентах в сфере кибербезопасности ИИ. Группа, уже насчитывающая более 120 участников, включая Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, намерена создать стандартизированный механизм конфиденциального оповещения об уязвимостях, уведомления пострадавших и проведения «безвинового» анализа для всего сообщества.
Одновременно некоммерческая организация SaferAI опубликовала доклад, согласно которому открытая модель GLM-5.2 от китайской Z.ai практически сравнялась по возможностям с ведущими проприетарными системами — GPT-5.5 от OpenAI и Claude Opus 4.7 от Anthropic, — однако не отвергла ни одного вредоносного запроса в тестах на наступательную кибербезопасность и биологию двойного назначения. В то время как Claude Opus 4.7 блокировала все попытки, модель GLM-5.2 выполняла их без ограничений. Руководитель SaferAI Генри Пападатос подчеркнул, что защитные механизмы, реализованные через API, становятся бесполезными, когда веса модели публично доступны, и призвал оценивать риски по реально применяемым мерам, а не по заявленным возможностям.
Участники OSAA уже передают открытые инструменты в общий репозиторий: Nvidia — сканер уязвимостей Garak, Okta — технологии агентской идентификации, Red Hat — решения для управления агентами, Amazon — инструменты Strands Agents и язык авторизации Cedar. Однако в альянсе отсутствуют такие крупные игроки, как Anthropic, OpenAI и Google, хотя последние подписали открытое письмо, призывавшее администрацию США поддержать открытый ИИ. Эксперты отмечают, что стремительная консолидация вокруг OSAA стала ответом на слухи о возможном запрете китайских открытых моделей и демонстрирует решимость отрасли обеспечить безопасность открытого ИИ на практике, а не на словах.
