Исследование Microsoft выявило риски использования ИИ

  • 22.01.2025 12:25
  • 1.4k+

Специалисты Microsoft провели исследование, в котором оценили риски, связанные с использованием искусственного интеллекта. С результатами изысков поделились на сервере препринтов arXiv.

Изучив более сотни инструментов ИИ, ученые пришли к выводу, что ИИ «никогда не станет полностью безопасным». Большие языковые модели (LLM) могут усиливать существующие угрозы и создавать новые. Например, если модель обучается на основе неверных или секретных данных, она может распространять их среди пользователей.
Чтобы минимизировать риски, эксперты Microsoft рекомендуют контролировать каждый этап обучения LLM. Они считают, что человеческий фактор всегда будет играть ключевую роль в обеспечении безопасности ИИ.
Кроме того, специалисты считают, что при работе с ИИ необходимы предметная экспертиза, понимание культурных особенностей и эмоциональный интеллект.


сегодня 09:17
714

Исследование Би-би-си: Чат-боты с ИИ не способны точно пересказывать новости

Чат-боты с искусственным интеллектом, такие как ChatGPT, Copilot, Gemini и Perplexity AI, не всегда точно пересказывают новости. Исследование, проведенное Би-би-си, показало, что в 51% ответов на вопросы о новостях...

вчера 23:10
1.1k+

Adobe открыла доступ к генератору видео и запустила подписку на ИИ Firefly

Adobe приступила к открытому бета-тестированию генератора видео Firefly Video, который теперь доступен для всех пользователей. Опробовать его можно в новом разделе Firefly на сайте компании. Там же доступны и другие...

вчера 07:10
1.9k+

Как выглядит новый «Пуск» Windows 11: ИИ и новая сортировка программ

В Windows 11 появится обновленное меню «Пуск», которое сделает поиск программ проще и быстрее. Обновление станет доступным пользователям в этом году, сообщает ресурс Windows Latest. В последней версии Windows 11...

вчера 06:00
1.7k+

YouTube запустит ИИ-дубляж в феврале

Генеральный директор YouTube Нил Мохан поделился планами на 2025 год, среди которых значительное внимание уделено искусственному интеллекту. По словам руководителя компании, в феврале видеоплатформа запустит функцию...