ИИ-инструмент ChatGPT Agent, разработанный компанией OpenAI, научился обходить системы верификации для распознавания ботов и выдавать себя за человека. Об этом сообщили пользователи Reddit, тестировавшие новую функцию в платных версиях чат-бота (Pro, Plus и Team).
Один из них рассказал, что ChatGPT Agent смог поставить галочку в окне «Я не робот» и сопроводил действие комментарием: «Этот шаг нужен для того, чтобы доказать, что я не бот, и продолжить выполнение действия».
Новая версия агента была представлена 17 июля. Она способна выполнять действия в браузере от имени пользователя: оформлять заказы, планировать встречи, анализировать веб-сайты. К примеру, в одном из случаев агент самостоятельно совершил покупку в интернет-магазине, следуя заданным условиям — ограниченный бюджет в $150, приоритет на здоровую еду, исключение мяса.
Как сообщает The Independent, ИИ уверенно справляется с CAPTCHA-тестами и проверками от компании Cloudflare, которые используются для защиты сайтов от автоматизированных программ. Проверки верификации долгое время служили барьером для автоматизированного трафика. Если ИИ научился их обходить — это серьезный вызов для онлайн-безопасности.
В OpenAI подчёркивают, что модель действует с согласия пользователя и предоставляет возможность контролировать её действия. В компании называют это «естественной эволюцией» модели, которая теперь выполняет сложные задачи с минимальным участием человека.
Тем не менее, разработчики признают, что рост автономности повышает потенциальные риски, и усиливают технические ограничения, в том числе фильтры конфиденциальности и контроль доступа к интернету.
