Развитие искусственного интеллекта в высшем образовании: сравнительное исследование агентов на основе больших языковых моделей для генерации, совершенствования и оценки экзаменационных вопросов
Advancing AI in Higher Education: A Comparative Study of Large Language Model-Based Agents for Exam Question Generation, Improvement, and Evaluation
2025-03-04
SCID: 54.1/w2s8jcm7
Discuss with AI
таксономия БлумаVectorGraphRAGгенерация экзаменационных вопросовбольшие языковые моделимоделирование смешанных эффектов
Figures from the paper
Abstract (AI)
Трансформационные возможности больших языковых моделей (LLM) меняют подходы к оцениванию образовательных результатов и разработке вопросов в высшем образовании. В исследовании предлагается систематическая платформа использования LLM для совершенствования задач, связанных с вопросами: согласования экзаменационных вопросов с целями курса, повышения их ясности и уровня сложности, а также генерации новых заданий с учетом целей обучения. Исследование охватывает четыре университетских курса — два теоретической и два прикладной направленности, — включающих различные уровни когнитивных процессов в соответствии с таксономией Блума. Сбалансированный набор данных обеспечивает представленность различных категорий и структур вопросов. Разработаны и оценены три агента на основе LLM — VectorRAG, VectorGraphRAG и дообученная LLM — в сравнении с метаоценщиком под контролем экспертов-людей для определения точности согласования и качества объяснений. Надежные аналитические методы, включая моделирование смешанных эффектов, позволяют получить практически применимые выводы для интеграции генеративного искусственного интеллекта в процессы оценивания в университетах. Помимо применения непосредственно к экзаменам, данная методология формирует основу для более широкого внедрения ИИ в послесреднее образование, акцентируя внимание на справедливости, контекстуальной релевантности и сотрудничестве. Полученные результаты предлагают комплексную платформу для согласования контента, созданного ИИ, с целями обучения, описывают эффективные стратегии интеграции и рассматривают такие проблемы, как предвзятость и контекстуальные ограничения. В целом работа подчеркивает потенциал генеративного ИИ для совершенствования оценивания в образовании и одновременно обозначает пути его ответственного внедрения.
Key Findings
1
Смешанные модели позволяют получить обоснованные выводы об интеграции генеративного ИИ в процессы университетского оценивания для различных категорий и структур вопросов.
2
Оценивание охватывает четыре университетских курса, включая теоретические и прикладные дисциплины, а также различные уровни когнитивных навыков по таксономии Блума.
3
Платформа поддерживает ответственное внедрение ИИ в высшем образовании, уделяя внимание справедливости, контекстуальной релевантности, сотрудничеству, а также снижению предвзятости и ограничений контекста.
4
В исследовании разработана систематическая платформа на основе больших языковых моделей для согласования экзаменационных вопросов с целями курса, улучшения ясности и сложности, а также создания новых заданий, ориентированных на результаты обучения.
5
VectorRAG, VectorGraphRAG и дообученная языковая модель сравниваются с помощью метаоценщика под контролем экспертов для измерения точности согласования и качества объяснений.
Research Object
агенты на основе больших языковых моделей (LLM) для генерации, улучшения и оценки экзаменационных вопросов в высшем образовании
Research Subject
их точность, качество объяснений и соответствие экзаменационных вопросов целям курса и обучения на различных уровнях когнитивной сложности
Publication Details
Publication Date
2025-03-04
Journal
Publisher
ISSN
Cited by
36
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest