Компания Google удалила часть генерируемых искусственным интеллектом ответов (AI Overviews) после расследования The Guardian. Журналисты выяснили, что эти ответы содержали ошибки в медицинской информации.
Одним из самых рискованных примеров была неточная информация по запросу «какой нормальный диапазон для анализов крови на печень». ИИ выдавал только набор чисел, не учитывая возраст, пол, национальность и другие индивидуальные особенности.
После публикации издания Google отключил функцию кратких ИИ-сводок для некоторых медицинских тем, таких как здоровье печени, онкология и психическое здоровье. Однако проблема пока решена не полностью: при использовании похожих запросов, например «референтный диапазон теста ЛФТ», сводки могут появляться снова.
«Мы не комментируем отдельные случаи удаления в поиске. В случаях, когда ИИ-сводкам не хватает некоторого контекста, мы работаем над внесением широких улучшений, а также принимаем меры в соответствии с нашей политикой, где это уместно», – отметил в официальном комментарии представитель Google.
