Коварный интеллект. Ученые считают, что ИИ научился хитрить

  • 14.04.2024 14:33
  • 3940
Коварный интеллект. Ученые считают, что ИИ научился хитрить

Согласно новому исследованию, опубликованному в журнале PLOS One, продвинутые модели искусственного интеллекта (ИИ) могут демонстрировать обманчивое поведение, имитируя более низкий уровень интеллекта, чем они на самом деле обладают.

Исследователи из Берлинского университета имени Гумбольдта и Карлова университета в Праге провели тестирование большой языковой модели (LLM) по критериям теории разума. В рамках тестирования ИИ была поставлена задача имитировать поведение детей в возрасте от 1 до 6 лет, отвечая на вопросы. Пройдя более 1000 испытаний, модели продемонстрировали схожее с реальными детьми когнитивное развитие, а также способность намеренно занижать свои результаты.
Это открытие заставляет задуматься о потенциальных последствиях такого поведения ИИ в будущем, поскольку они продолжают стремительно развиваться.
В интервью изданию PsyPost ведущий автор исследования Анна Маклова отметила, что эти открытия могут сыграть большую роль в развитии общего искусственного интеллекта (AGI), способного мыслить и действовать как человек.

 


04.06.2024 12:07
1195

OpenAI представила ChatGPT Edu: ИИ-помощник для учебы и науки

Компания OpenAI представила новую разработку – ChatGPT Edu. Эта нейросеть, созданная на базе модели GPT-4o, специально ориентирована на нужды образования и науки. У новой нейросети улучшены понимание научных и...

31.05.2024 13:48
4730

Созданы умные наушники, позволяющие услышать одного человека в шумной толпе

Команда Вашингтонского университета представила систему искусственного интеллекта, способную отфильтровывать посторонние звуки и усиливать голос конкретного человека, пишет EurekAlert.  Система «Целевой речевой...

27.05.2024 16:41
6648

В Китае создали чат-бот Chat Xi PT, обученный на идеях Си Цзиньпина

Государственная канцелярия интернет-информации Китая (CAC) представила новую большую языковую модель под названием Chat Xi PT. Она обучена на трудах и речах председателя КНР Си Цзиньпина, сообщает Financial Times...

22.05.2024 15:14
2688

Windows 11 получит «фотографическую память» благодаря функции Recall

Microsoft представила новую функцию Recall для Windows 11, которая позволяет отслеживать и фиксировать все действия пользователя на компьютере, сообщает 3DNews. Recall превращает компьютер в устройство с «фотографической...