OpenAI начала внедрять для ChatGPT новую функцию безопасности Trusted Contact, которая позволяет пользователям назначить доверенное лицо для экстренных случаев. Если система обнаружит в запросах пользователя признаки риска самоповреждения или суицидального поведения, указанный контакт получит уведомление.
Функция пока работает как добровольная настройка и доступна взрослым пользователям старше 18 лет, а в ряде стран — старше 19. Пользователь может указать одного человека — родственника, друга, партнёра или опекуна. Контакт должен подтвердить согласие в течение недели.
По данным OpenAI, алгоритмы ChatGPT анализируют сообщения и выявляют признаки серьёзного психологического кризиса. Сначала пользователь получает предупреждение с предложением самостоятельно обратиться за помощью. После этого ситуация может быть передана на проверку группе сотрудников компании, прошедших специальную подготовку.
Если специалисты сочтут угрозу реальной, доверенному лицу отправят краткое уведомление по электронной почте, SMS или через приложение. Содержание переписки при этом раскрывать не будут. В сообщении укажут только общую информацию о ситуации и рекомендации по поддержке пользователя.
В OpenAI заявили, что разработка велась совместно с клиницистами, исследователями и Американской психологической ассоциацией.
Запуск функции происходит на фоне судебных исков, в которых родственники пользователей утверждали, что взаимодействие с чат-ботами усиливало их психологические проблемы.
Новая система уже вызвала активные обсуждения в соцсетях. Часть пользователей поддержала идею, тогда как многие выразили обеспокоенность вопросами приватности и механизмами определения потенциально опасных ситуаций.
