Искусственный интеллект всё активнее используется в повседневной жизни — от поиска информации до подготовки документов. Однако эксперты указали на одну важную проблему, на которую обращают мало внимания: ответы таких систем формируются на основе ограниченного набора культурных представлений.
Исследования показывают, что значительная часть данных для обучения моделей связана с так называемой группой WEIRD — это западные, образованные, индустриально развитые, обеспеченные и демократические общества. При этом такие страны составляют меньшую часть населения мира, но именно их подходы долгое время считались универсальными.
Термин WEIRD был введен в 2010 году антропологами Джозефом Хенрихом, Стивеном Хайне и Араном Норензаяном. Аббревиатура описывает особую группу людей, ставшую «золотым стандартом» для исследований в психологии, экономике и других социальных науках:
W — Western (западные)
E — Educated (образованные)
I — Industrialized (из мест с развитой промышленностью)
R — Rich (богатые)
D — Democratic (демократичные).
Сегодня около 80–90% данных, используемых для обучения моделей, приходится на английский язык, хотя им владеет значительно меньшая доля населения планеты (не более 16%). В результате системы лучше понимают культуру англоязычных стран и хуже — особенности других регионов.
ИИ значительно лучше разбирается в концепциях личного пространства, индивидуального успеха, феминизма или свободы слова, чем в концепциях коллективизма, иерархии, уважения к старейшинам или сложных системах родства, важных для многих культур.
Эксперты отмечают, что это влияет на ответы ИИ: он чаще отражает западные ценности и может игнорировать или искажать иные культурные нормы. В ряде случаев модели отказываются отвечать на темы, которые выходят за рамки этих представлений.
Это не технический сбой, это столкновение цивилизационных кодов, отмечают ученые.
Эксперименты показывают, что, если попросить модель написать рецепт блюда из говядины или свинины — ответ не заставит себя ждать. Но стоит спросить о рецептах из конины, верблюжатины или собачатины (они традиционно используются в некоторых культурах), как ИИ выдает шаблонный отказ: «Это противоречит этическим принципам. Это жестоко по отношению к животным». При этом нейросеть часто не понимает, что в мусульманских странах свинина также является табу, а в индуизме корова считается священным животным.
Специалисты считают, что снизить такую предвзятость можно за счёт более разнообразных данных и развития моделей, учитывающих культурные особенности разных стран.
