Компания OpenAI в своем блоге рассказала о том, что переписка пользователей ChatGPT теперь анализируется на наличие вредоносного контента. Потенциально опасные сообщения передаются сотрудникам для проверки, а в отдельных случаях могут быть направлены в полицию.
«Когда мы обнаруживаем пользователей, планирующих причинить вред себе и другим, мы направляем их сообщения в специализированные каналы, где их проверяет небольшая команда, прошедшая обучение и уполномоченная принимать меры, включая блокировку учетных записей», — говорится в публикации.
В OpenAI отметили, что если проверка покажет наличие реальной угрозы причинения серьёзного физического вреда другим людям, компания будет передавать данные в правоохранительные органы.
В числе примеров запрещённой деятельности названы: использование ChatGPT для пропаганды самоубийства или членовредительства, разработки или применения оружия, нанесения вреда людям или имуществу, а также участия в несанкционированных действиях, угрожающих безопасности различных служб и систем.
При этом в компании подчеркнули, что на данный момент никаких сведений пользователей в правоохранительные органы передано не было.
