Компания OpenAI опубликовала комплексный документ под названием «Дорожная карта детской безопасности» (Child Safety Blueprint), направленный на противодействие растущей угрозе использования технологий искусственного интеллекта для создания материалов о сексуальной эксплуатации детей. Инициатива была анонсирована 8 апреля 2026 года и представляет собой многостороннюю стратегию, разработанную совместно с ведущими правозащитными организациями, включая Национальный центр по поиску пропавших и эксплуатируемых детей (NCMEC) и Альянс генеральных прокуроров.
Контекст и статистика Необходимость таких мер подтверждается тревожной статистикой. По данным Фонда наблюдения за интернетом (Internet Watch Foundation), только в первой половине 2025 года было зафиксировано более 8000 случаев материалов о сексуальном насилии над детьми, созданных с помощью ИИ. Это на 14% больше, чем за аналогичный период 2024 года. Преступники используют генеративные модели для создания поддельных откровенных изображений в схемах финансовой сексторции, а также для генерации убедительных сообщений с целью вовлечения несовершеннолетних.
Три столпа стратегии Дорожная карта OpenAI фокусируется на трех взаимосвязанных направлениях. Во-первых, это обновление законодательства. Компания предлагает расширить юридическое определение материалов о сексуальном насилии над детьми (CSAM), включив в него синтетический контент, созданный ИИ, а также установить федеральные требования для технологических компаний по отчетности о подобных материалах. В разработке этих предложений участвовали генеральные прокуроры штатов, такие как Джефф Джексон (Северная Каролина) и Дерек Браун (Юта).
Во-вторых, план предусматривает усовершенствование механизмов отчетности и координации с правоохранительными органами. OpenAI обязуется разработать более сложные системы обнаружения угроз и установить прямые каналы связи с NCMEC для ускорения передачи информации и расследований.
В-третьих, и это ключевой технический аспект, компания намерена встроить более надежные предохранительные механизмы непосредственно в свои ИИ-модели. Это включает усиленные фильтры контента, блокирующие запросы на генерацию вредоносных материалов с участием несовершеннолетних, а также строгие процедуры проверки возраста пользователей.
Более широкий фон Публикация дорожной карты происходит на фоне усиления юридического давления на OpenAI. В ноябре 2024 года в судах Калифорнии были поданы семь исков, обвиняющих компанию в недостаточных мерах безопасности в более ранних релизах ИИ, которые, по утверждениям истцов, способствовали трагическим случаям. Новая инициатива также основывается на предыдущих мерах OpenAI, таких как обновленные правила взаимодействия с пользователями младше 18 лет и специальная программа безопасности для подростков в Индии.
Как отметила президент и CEO NCMEC Мишель ДеЛон, генеративный ИИ ускоряет преступления, связанные с онлайн-эксплуатацией детей, но одновременно открывает возможности для создания более ответственных инструментов со встроенными с самого начала защитными механизмами. В компании подчеркивают, что ни одна организация не может решить эту проблему в одиночку, и эффективная защита требует сотрудничества между технологическим сектором, государственными органами и некоммерческими организациями.
