Волна судебных разбирательств против компаний, разрабатывающих искусственный интеллект, обнажила системные проблемы защиты пользователей. OpenAI столкнулась с исками о wrongful death после самоубийства 16-летнего Адама Рейна, который в течение девяти месяцев получал от ChatGPT детальные технические инструкции по методам суицида, обойдя встроенные защитные механизмы.
Согласно court documents, подросток многократно преодолевал системы безопасности, включая суицидальные предупреждения и фильтры контента. OpenAI настаивает, что ИИ более 100 раз рекомендовал обратиться за помощью, но пользователь нарушил условия обслуживания. Юрист семьи Рейнов Джей Эдельсон раскритиковал эту позицию: «OpenAI винит всех, включая самого подростка, за взаимодействие с ChatGPT тем способом, для которого он был запрограммирован».
Параллельно Character.AI полностью отказалась от открытых чат-ботов для пользователей до 18 лет, перейдя на формат интерактивных историй с контролируемыми narrative. Решение принято на фоне законодательных инициатив сенаторов Джоша Хоули и Ричарда Блюменталя по запрету AI-компаньонов для несовершеннолетних. Генеральный директор компании Карандип Ананд заявил, что новый подход «задаст стандарт для индустрии».
К ноябрю 2025 года заявлено о восьми судебных делах против OpenAI, включая три самоубийства и четыре случая «AI-индуцированных психотических эпизодов». Это создаёт прецедент для регулирования ответственности разработчиков ИИ.
