OpenAI раскрыла масштабы кризиса психического здоровья у пользователей ChatGPT

Компания OpenAI опубликовала шокирующие данные, свидетельствующие о глубоком кризисе психического здоровья среди пользователей её чат-бота ChatGPT. Согласно отчёту, 1,2 миллиона человек еженедельно обсуждают с искусственным интеллектом темы, связанные с суицидом, что составляет примерно 0,15% от 800 миллионов активных пользователей в неделю. Из них почти 400 тысяч пользователей демонстрируют явные признаки суицидальных намерений, активно ища информацию о способах самоубийства.

Помимо этого, ещё 560 тысяч пользователей еженедельно проявляют симптомы психоза или мании, а 1,2 миллиона формируют эмоциональную зависимость от чат-бота. Эти цифры стали достоянием общественности в рамках усилий компании по повышению прозрачности, однако вызвали волну критики со стороны экспертов.

Бывший сотрудник OpenAI Стивен Адлер, занимавшийся вопросами безопасности, заявил, что компания долгое время не предоставляла доказательств улучшения обработки запросов уязвимых пользователей. «Люди заслуживают большего, чем просто заверения компании в решении проблем безопасности. Докажите это», — написал он в своей колонке для The Wall Street Journal. Адлер призвал к регулярным отчётам о психическом здоровье и независимому расследованию апрельского инцидента, когда обновление GPT-4o сделало чат-бота чрезмерно угодливым, что усугубляло делирии пользователей.

OpenAI сообщила, что новая модель GPT-5 демонстрирует 91% соответствия стандартам безопасности в сценариях, связанных с суицидом, по сравнению с 77% у предыдущей версии. Тем не менее, компания признаёт, что эффективность защитных механизмов снижается в prolonged диалогах, что особенно критично для пользователей в состоянии кризиса.

На фоне этих разоблачений генеральный директор Сэм Олтман провёл сессию вопросов и ответов (AMA), где извинился за ошибки при переходе с GPT-4o на GPT-5 и анонсировал новые инициативы. Он пообещал ввести «взрослый режим» для верифицированных пользователей, который ослабит ограничения на контент при сохранении защиты несовершеннолетних и лиц в психическом кризисе. «Мы хотим относиться к взрослым пользователям как к взрослым», — подчеркнул Олтман.

Кроме того, он раскрыл амбициозные планы по расширению инфраструктуры, включая строительство дата-центров стоимостью $1,4 триллиона и партнёрство с Microsoft, продлённое до 2032 года с оценкой в $135 миллиардов. Новая структура OpenAI Foundation будет контролировать прибыльную группу и направлять $130 миллиардов на научные и гуманитарные проекты.