В последние годы многие люди начали использовать ChatGPT в качестве цифрового терапевта. Согласно ранее опубликованной информацией компании, более миллиона пользователей из 800 миллионов еженедельных обращаются в чат с мыслями о самоубийстве. Эта ситуация вновь вызвала обсуждения воздействия систем разговорного искусственного интеллекта на психическое здоровье.
Medianews.az со ссылкой на "Sherg.az" сообщает, что с новой представленной системой «Trusted Contact» пользователи теперь смогут в разделе настроек ChatGPT выбрать доверенное взрослое лицо в качестве «контакта на случай чрезвычайной ситуации». Если система определит, что пользователь серьезно рискует причинить себе вред, она сможет отправить этому лицу уведомление по электронной почте, SMS или через приложение.
Функция экстренного контакта появится
Согласно информации от OpenAI, процесс не будет управляться напрямую искусственным интеллектом. На первом этапе система выведет предупреждение для пользователя и при необходимости сообщит, что с выбранным человеком можно связаться. Одновременно пользователь будет поощряться к общению с близкими и получать рекомендации для начала разговора.
После этого внутри OpenAI небольшая специально обученная команда вручную проверит ситуацию. Если команда решит, что риск действительно серьёзный, то выбранному в качестве «Trusted Contact» лицу будет отправлено уведомление.
В отправляемом сообщении, как ожидается, будет следующая фраза:
«Чат проходит через трудный период. Рекомендуется связаться с ним как с доверенным лицом.»
Компания особо подчеркивает, что для защиты конфиденциальности пользователей записи разговоров и тексты сообщений не будут передаваться.
OpenAI в последние годы подвергалась серьёзной критике именно за свой подход к вопросам психического здоровья. В судебном деле, возбужденном против компании в прошлом году, переписка с ChatGPT в процессе самоубийства молодого человека была поднята в качестве темы. В расследовании, опубликованном "BBC News" в 2025 году, выяснилось, что некоторые пользователи могут получать опасные ответы от чат-бота о способах совершения самоубийства.