Коварный интеллект. Ученые считают, что ИИ научился хитрить

  • 14.04.2024 14:33
  • 4k+

Согласно новому исследованию, опубликованному в журнале PLOS One, продвинутые модели искусственного интеллекта (ИИ) могут демонстрировать обманчивое поведение, имитируя более низкий уровень интеллекта, чем они на самом деле обладают.

Исследователи из Берлинского университета имени Гумбольдта и Карлова университета в Праге провели тестирование большой языковой модели (LLM) по критериям теории разума. В рамках тестирования ИИ была поставлена задача имитировать поведение детей в возрасте от 1 до 6 лет, отвечая на вопросы. Пройдя более 1000 испытаний, модели продемонстрировали схожее с реальными детьми когнитивное развитие, а также способность намеренно занижать свои результаты.
Это открытие заставляет задуматься о потенциальных последствиях такого поведения ИИ в будущем, поскольку они продолжают стремительно развиваться.
В интервью изданию PsyPost ведущий автор исследования Анна Маклова отметила, что эти открытия могут сыграть большую роль в развитии общего искусственного интеллекта (AGI), способного мыслить и действовать как человек.

 


вчера 19:01
2.1k+

В Пекине прошёл первый футбольный турнир среди гуманоидных роботов

В столице Китая прошёл уникальный футбольный турнир с участием гуманоидных роботов. Они самостоятельно передвигались по полю, перехватывали мяч и били по воротам без какого-либо внешнего вмешательства, управляемые исключительно искусственным интеллектом...

27.06.2025 11:29
2.8k+

Поисковик Google начал подстраиваться лично под каждого пользователя

Google начала внедрять в AI Mode своего поисковика персонализированные подсказки. Теперь в мобильном приложении компании при переходе к этому режиму пользователи видят рекомендации, основанные на их активности в Google...

25.06.2025 10:59
4.7k+

Маск заявил, что новая версия Grok получит «все знания человечества»

Илон Маск заявил, что новая версия искусственного интеллекта Grok должна вобрать в себя «все человеческие знания». Об этом он написал в социальной сети X, отметив, что его ИИ будет отличаться от решений конкурентов благодаря другим исходным данным для обучения...

25.06.2025 10:13
4k+

В России создали технологию, которая поможет отличать дипфейк от реального контента

Институт системного программирования РАН разработал систему, способную автоматически помечать контент, созданный с помощью искусственного интеллекта. Об этом сообщает РИА Новости. Технология использует цифровые метки, незаметные для человека, но легко распознаваемые компьютером...