OpenAI внедрила в ChatGPT «режим блокировки» и пометку «повышенный риск»

Компания OpenAI объявила о запуске новых функций безопасности для продуктов на базе искусственного интеллекта — «режима блокировки» (Lockdown Mode) и маркировки «повышенный риск» (Elevated Risk). Нововведения затрагивают ChatGPT, ChatGPT Atlas и Codex.
«Режим блокировки» — это дополнительная настройка в ChatGPT, которая позволяет ограничить работу отдельных инструментов и функций, потенциально способных привести к утечке конфиденциальных данных, например через вредоносные запросы. При использовании этого режима просмотр web-страниц осуществляется только через кэшированный контент, а сетевые запросы в реальном времени остаются внутри контролируемой инфраструктуры OpenAI.
Функция доступна корпоративным клиентам, а также организациям в сферах здравоохранения и образования. Режим может вводить дополнительные ограничения поверх настроек администраторов. Предусмотрена гибкая конфигурация: пользователи и администраторы могут определять, какие приложения и действия разрешены. Также OpenAI предлагает инструменты Compliance API Logs Platform для фиксации данных об использовании приложений и подключенных внешних источников.
Одновременно компания вводит единую маркировку «повышенный риск» для функций, связанных с потенциально чувствительными операциями. Такие пометки появятся в ChatGPT, ChatGPT Atlas и Codex. В Codex, например, меткой будет сопровождаться функция доступа к внешним ресурсам для поиска документации. Пользователи будут получать пояснения о возможных рисках и условиях предоставления доступа.