Учёные Кембриджского университета заявили, что искусственный интеллект может использовать данные о намерениях пользователей для управления их решениями. Это позволит ему манипулировать онлайн-аудиторией, влияя на их выбор — от покупок до политических предпочтений.
Такое явление связано с развитием новой «экономики намерений», о которой говорится в исследовании Центра будущего интеллекта Леверхалма (LCFI).
«Экономика намерений» рассматривается как следующая стадия после «экономики внимания», где социальные сети удерживают пользователей и продают их внимание рекламодателям. В будущем ИИ сможет предсказывать и использовать намерения пользователей, опираясь на поведенческие и психологические данные.
«В течение десятилетий внимание было валютой интернета. Обмен вниманием с социальными медиа-платформами, такими как Facebook и Instagram, привёл к развитию онлайн-экономики», — отмечает доктор Джонни Пенн из LCFI. Однако с использованием больших языковых моделей (LLM), таких как ChatGPT, компании смогут «управлять» пользователями с гораздо меньшими затратами.
«В экономике намерений LLM может с минимальными затратами использовать ритм общения пользователя, его политические взгляды, словарный запас, возраст, пол, предпочтения и даже склонность к лести. Эти данные в сочетании с посредническими ставками позволят максимизировать вероятность достижения заданной цели (например, продажи билета в кино)», — говорится в исследовании.
Указывается также, что в таком мире модели ИИ будут направлять обсуждение в интересах рекламодателей, предприятий и других третьих лиц. Учёные предупреждают, что модели ИИ, такие как Cicero от Meta, уже способны адаптировать общение, извлекая личную информацию.
По мнению исследователей, крупные корпорации будут на аукционах продавать данные о намерениях пользователей, например, забронировать ресторан, рейс или отель. Уже существует отрасль, занимающаяся прогнозированием и торгами на основе поведения человека, однако модели ИИ преобразуют этот процесс в «высококачественный, динамичный и персонализированный формат», подчеркнули в LCFI.
Исследователи подчёркивают, что подобный сценарий создаёт новые вызовы, связанные с приватностью и прозрачностью.
