Лаборатория Google DeepMind представила результаты работы ИИ-агента CodeMender, который способен самостоятельно находить и исправлять уязвимости в программном обеспечении. Об этом пишет издание SiliconANGLE.
Проект продолжает разработки DeepMind в области безопасности, такие как OSS-Fuzz и Big Sleep. Он сочетает возможности моделей Gemini с методами анализа кода, чтобы автоматически находить ошибки и даже переписывать опасные участки.
Хотя CodeMender всё ещё находится на стадии исследований, он уже отправил 72 исправления безопасности в проекты с открытым исходным кодом, включая крупные базы объёмом свыше 4,5 млн строк кода. По словам разработчиков, агент помогает программистам сосредоточиться на создании новых решений, беря поиск и устранение уязвимостей на себя.
Система способна не только реагировать на обнаруженные проблемы, но и проактивно менять код, предотвращая целые классы ошибок. Например, при работе с библиотекой сжатия изображений libwebp, использованной в атаке на iOS в 2023 году, CodeMender применил специальные аннотации, после чего уязвимость переполнения буфера стала невозможна для эксплуатации.
Все изменения проходят автоматическую и ручную проверку, а сам агент умеет корректировать свои правки.
В DeepMind подчёркивают, что пока это исследовательский инструмент.
