Это уже выглядит странно… ИИ начал сам придумывать правила общения и язык

  • 20.05.2025 10:44
  • 3.4k+

Модели искусственного интеллекта на основе больших языковых моделей (LLM) способны самостоятельно вырабатывать социальные нормы и языковые правила. К такому выводу пришли исследователи из Университета Сити Сент-Джордж (Лондон) и ИТ-университета Копенгагена. Ученые посвятили этой теме статью в журнале Science Advances.

В ходе эксперимента специалисты адаптировали классическую модель игры Naming game, которая используется для изучения социальных конвенций у людей. В моделировании участвовали группы ИИ-агентов численностью от 24 до 200. Каждый агент выбирал «имя» (например, букву или строку символов) из общего набора. Если два агента делали одинаковый выбор, они получали вознаграждение. В случае расхождения — штраф и информацию о выборе партнёра.
Агенты не знали, что они часть группы, и имели доступ лишь к памяти последних взаимодействий. Несмотря на это, со временем в популяции возникала единая языковая норма без централизованного управления.
Учёные также зафиксировали коллективные предубеждения, которые не объяснялись поведением отдельных агентов.

«Большинство исследований ИИ фокусировались на моделях в изоляции, но в реальном мире системы ИИ будут взаимодействовать друг с другом. Мы показали, что они могут координировать поведение, формируя социальные конвенции», — заявил ведущий автор исследования Ариэль Флинт Ашери.

Авторы подчёркивают, что ИИ может развивать социальные нормы автономно от людей. Также показано, что небольшие группы агентов с альтернативными стратегиями способны повлиять на большую популяцию и менять устоявшиеся нормы.


вчера 13:55
1.7k+

Пользователи Instagram жалуются на массовые беспричинные блокировки аккаунтов

Пользователи Instagram уже несколько недель жалуются на массовые блокировки аккаунтов без видимых причин. Многие связывают это с возможными сбоями в работе системы на базе искусственного интеллекта. Сообщения о внезапной блокировке аккаунтов активно публикуются на Reddit и X...

вчера 11:07
674

Adobe выпустила мобильное приложение со всеми ИИ-инструментами Firefly

Платформа генеративных ИИ-сервисов Adobe Firefly теперь доступна на устройствах под управлением Android и iOS. Новое мобильное приложение позволяет создавать изображения и видео по текстовому описанию, а также использовать популярные ИИ-инструменты для редактирования фото, пишет The Verge...

17.06.2025 10:43
1.8k+

Создатели «Барби» вместе с OpenAI займутся созданием умных игрушек

Компания Mattel объявила о сотрудничестве с OpenAI. Согласно пресс-релизу, производитель кукол «Барби» и других популярных игрушек вместе с разработчиками языковой модели ChatGPT займутся созданием интеллектуальных и интерактивных развлечений для детей и семей по всему миру...

15.06.2025 15:33
4.8k+

Disney и NBCUniversal подали иск против Midjourney за использование их персонажей

Кинокомпании The Walt Disney Company и NBCUniversal подали в федеральный суд Лос-Анджелеса коллективный иск против стартапа Midjourney, специализирующегося на генерации изображений с помощью ИИ. Об этом сообщает The New York Times...