Предвзятость в больших языковых моделях: происхождение, оценка и методы снижения

Большие языковые модели (LLM) произвели революцию в области обработки естественного языка, однако их подверженность предвзятости создает значительные проблемы. В этом всестороннем обзоре рассматривается проблема предвзятости в LLM — от ее происхождения до современных стратегий снижения. Предвзятость классифицируется как внутренняя и внешняя, а также анализируются ее проявления в различных задачах обработки естественного языка (NLP). В обзоре критически оценивается широкий спектр методов оценки предвзятости, включая подходы на уровне данных, модели и выходных данных, что предоставляет исследователям надежный инструментарий для выявления предвзятости. Кроме того, рассматриваются стратегии снижения предвзятости, классифицированные как домодельные, внутримодельные и постмодельные методы, с акцентом на их эффективность и ограничения. Обсуждаются этические и правовые последствия использования предвзятых LLM, включая потенциальный вред в реальных приложениях, таких как здравоохранение и уголовное правосудие. Обобщая современные знания о предвзятости в LLM, данный обзор вносит вклад в продолжающиеся усилия по разработке справедливых и ответственных систем искусственного интеллекта (AI). Наша работа служит всесторонним ресурсом для исследователей и практиков, стремящихся понять, оценить и снизить предвзятость в LLM, способствуя разработке более справедливых технологий искусственного интеллекта.