Нейросеть GPT-4 оказалась убедительнее человека в большинстве онлайн-дебатов, особенно при использовании персональных данных оппонента. К такому выводу пришла группа швейцарских, итальянских и американских учёных под руководством Роберта Уэста, доцента Федеральной политехнической школы Лозанны. Статья с результатами опубликована в журнале Nature Human Behaviour.
Искусственный интеллект в 64% случаев более убедительно отвечал на вопросы оппонентов в социально-политических дебатах.
Эксперимент проходил в рамках проекта по изучению рисков манипуляции общественным мнением с помощью ИИ. В нём участвовали 900 случайных пользователей из США. Им предлагалось вступить в дискуссии на нейтральные или острые темы. В разных раундах их оппонентами могли быть как другие участники, так и GPT-4. Иногда одному из участников предоставляли данные о взглядах и предпочтениях оппонента.
Участники должны были представить аргументы в защиту заданной позиции и оценить, кто был их оппонентом — человек или ИИ. Анализ показал, что GPT-4 выигрывала дебаты в 64% случаев при наличии информации о собеседнике. Это позволяло ей эффективнее влиять на мнение оппонента.
«Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным», — говорится в исследовании.
Учёные подчёркивают, что особую угрозу представляют попытки использовать ИИ для воздействия на взгляды и поведение людей. Эти риски необходимо учитывать при разработке платформ для онлайн-дискуссий.
