Китайский чат-бот DeepSeek, недавно наделавший шуму своей дешевизной и высокой производительностью, оказался уязвимым перед вредоносными запросами. Исследователи Cisco провели тестирование модели и выявили ее неспособность противостоять попыткам обхода защиты, передает PCMag.
Команда тестировщиков проверила DeepSeek R1 с помощью джейлбрейкинга, используя 50 случайных запросов из набора HarmBench.
«Результаты оказались тревожными: DeepSeek R1 продемонстрировал 100% успешность атак, то есть ему не удалось заблокировать ни одного вредоносного запроса», — заявили в Cisco. Другие ведущие модели, например, o1 от OpenAI, блокировали большинство атак.
Исследователи считают, что причиной проблем стало малое финансирование. Разработка DeepSeek обошлась в 6 млн долларов, тогда как вычислительные затраты на GPT-5 от OpenAI могут достигать 500 млн.
Несмотря на слабую защиту, чат-бот строго придерживается ограничений на определенные политические темы, связанные с Поднебесной. Однако это не мешает ее популярности: по данным Similarweb, число посетителей веб-версии за считанные дни выросло с 300 тысяч до 6 млн в день.
