Компания Anthropic провела серию встреч с представителями мировых религий для обсуждения этических принципов, которые могут использоваться при развитии чат-бота Claude.
После закрытых консультаций с христианскими лидерами представители Anthropic и OpenAI приняли участие в межрелигиозном круглом столе Faith-AI Covenant в Нью-Йорке. В обсуждениях участвовали представители христианства, иудаизма, индуизма, сикхизма и мормонской церкви.
Anthropic не раскрывает, как именно подобные консультации могут повлиять на развитие Claude. При этом компания ранее заявляла, что модель строится вокруг набора этических принципов — так называемой «конституции», которой должен следовать искусственный интеллект.
Внутри компании признают сложность создания универсальной системы моральных ориентиров для генеративного ИИ. По этой причине разработчики начали искать внешние источники этических подходов, в том числе среди религиозных организаций.
К обсуждениям также присоединилась британский политик и специалист по цифровой безопасности Джоанна Шилдс. Компании пока не публиковали конкретных рекомендаций, полученных в ходе встреч, и не сообщали о внедрении религиозных принципов в Claude.
Глава организации Humane Intelligence Румман Чоудхури заявила, что технологические компании постепенно приходят к пониманию сложности создания универсальной этики для всех пользователей. По её словам, религия рассматривается как один из способов работы с неоднозначными моральными ситуациями.
