Правительство Великобритании объявило о создании совместной с Microsoft, академическими и техническими экспертами системы для обнаружения deepfake-контента. Инициатива направлена на противодействие вредоносному контенту, который становится всё более реалистичным и сложным для идентификации. Основными целями объявлены мошенничество и создание изображений интимного характера без согласия.
В рамках партнёрства будет разработана оценочная система (framework) для тестирования технологий обнаружения поддельных аудио-, видео- и графических файлов. Эта система установит единые стандарты для оценки подобных инструментов, а также предоставит эталонные тесты на основе реальных случаев мошенничества, impersonation и материалов, связанных с сексуальной эксплуатацией детей.
Министр технологий Лиз Кендалл подчеркнула практическую значимость угрозы: «Дипфейки уже используются преступниками для обмана общественности, эксплуатации женщин и девочек, а также для подрыва доверия к тому, что мы видим и слышим. Эта проблема будет усугубляться, пока мы не примем меры для защиты граждан и демократических институтов от манипуляций».
Статистика демонстрирует взрывной рост подобного контента: по данным правительства, в 2025 году было создано около 8 миллионов deepfake-изображений, тогда как в 2023 году их было всего 500 000. Этот рост напрямую связан с развитием ИИ, который сделал создание качественных подделок более доступным.
Новая система призвана помочь правоохранительным органам в выявлении, предотвращении и расследовании преступлений, а также дать технологическим компаниям чёткие ориентиры в области безопасности. Этот шаг соответствует более ранним призывам Microsoft к законодательным органам. Вице-председатель и президент Microsoft Брэд Смит в 2024 году настаивал на срочном принятии законов, направленных specifically на мошенничество с использованием deepfake.
Параллельно в Великобритании регуляторы в сфере коммуникаций и защиты данных начали расследование в отношении чат-бота Grok от компании Илона Маска из-за создания им сексуализированных изображений детей. Новый оценочный framework будет использован и в этой работе для выработки последовательных стандартов для инструментов, применяемых правоохранительными и регулирующими органами.
Как отметила Лиз Кендалл, конечная цель инициативы — «способствовать восстановлению доверия к тому, что люди видят и слышат в интернете», обязав всех поставщиков технологий нести ответственность за снижение потенциального вреда от растущего использования ИИ.
