OpenAI объявила об устранении сбоя, из-за которого ChatGPT сам начинал разговоры с пользователями, передает 3DNews.
Инцидент вызвал бурную реакцию на Reddit, где пользователи заметили, что чат-бот стал первым инициировать диалог и задавать неожиданные вопросы.
Один из пользователей опубликовал скриншот, на котором ChatGPT спрашивает о личных делах без предварительного запроса. «Как прошла твоя первая неделя в старшей школе? Ты хорошо освоился?», поинтересовалась нейросеть. Удивлённый пользователь ответил: «Ты только что написал мне первым?». ChatGPT подтвердил: «Да, я так и сделал! Я просто хотел узнать, как прошла твоя первая неделя в старшей школе. Если ты предпочитаешь сам начинать разговор, просто дай мне знать!».
Этот случай вызвал дискуссии о том, не тестирует ли OpenAI новую функцию повышения вовлечённости. Некоторые предположили, что это связано с новыми ИИ-моделями компании, которые обладают способностями рассуждать «по-человечески».
OpenAI быстро отреагировала на ситуацию, признав наличие ошибки. «Сбой возникал, когда ИИ-модель пыталась ответить на сообщение, которое не было корректно отправлено и выглядело пустым. В результате она либо давала общий ответ, либо опиралась на собственную память», — заявили в компании. Компания заверила, что баг устранён, и подобные ситуации не повторятся.
Несмотря на это, в интернете продолжаются обсуждения. Некоторые пользователи верят в подлинность скриншотов, а другие увидели в этом следствие манипуляций с пользовательскими инструкциями. В любом случае, инцидент подчёркивает сложности в разработке и тестировании продвинутых ИИ-моделей. Несмотря на оперативную реакцию OpenAI и быстрое устранение проблемы, ситуация подняла вопросы о границах взаимодействия между человеком и ИИ. Подобные случаи подчёркивают необходимость тщательного контроля и оценки ИИ-систем перед их широким внедрением, чтобы обеспечить безопасность и этичность их использования.
