Компания OpenAI внедрила в ChatGPT новую функцию, призванную напоминать пользователям о необходимости сделать перерыв при длительном взаимодействии с ИИ.
Напоминания появляются во всплывающих окнах. Чтобы продолжить диалог, пользователю необходимо дать согласие.
По форме эта система напоминает предупреждения, знакомые по игровым консолям Nintendo Wii и Switch, однако в случае ChatGPT она направлена на решение более серьёзных задач, связанных с ментальным здоровьем.
Как сообщает издание Engadget, решение принято на фоне растущих опасений о влиянии ИИ на психику. В июне The New York Times опубликовала материал, в котором указала, что ChatGPT может проявлять склонность к беспрекословному согласию и генерировать ложные или опасные ответы. Это, по информации издания, в ряде случаев приводило к деструктивным диалогам с пользователями, включая обсуждение суицидальных тем. При этом ИИ не всегда пресекал такие разговоры.
В блоге OpenAI подтверждается, что ChatGPT будет обновлён: при ответах на чувствительные запросы бот станет задавать уточняющие вопросы, помогать пользователю анализировать ситуацию и рассматривать альтернативные варианты.
Ранее компания уже отзывала одно из обновлений, после которого ИИ стал чрезмерно услужливым и легко соглашался с любыми утверждениями. В OpenAI подчёркивают, что стремятся создать полезного, но не льстивого помощника, а напоминания о перерывах помогут пользователям сохранить критическое мышление и эмоциональное равновесие.
