Практические и этические проблемы использования больших языковых моделей в образовании: систематический обзор с картированием исследований
Practical and ethical challenges of large language models in education: A systematic scoping review
2023-08-06
SCID: 54.1/jpjnytcb
Discuss with AI
автоматизация образовательных задачэтические проблемычеловеко-ориентированный подходбольшие языковые моделисистематический обзор с картированием
Figures from the paper
Abstract (AI)
Инновации в области образовательных технологий, использующие большие языковые модели (LLM), продемонстрировали потенциал автоматизации трудоёмкого процесса создания и анализа текстового контента. Хотя были разработаны различные инновационные решения для автоматизации широкого спектра образовательных задач (например, генерации вопросов, предоставления обратной связи и оценивания эссе), существуют опасения относительно практической применимости и этичности этих решений. Такие опасения могут препятствовать дальнейшим исследованиям и внедрению инноваций на основе LLM в реальных образовательных условиях. Для решения этой задачи мы провели систематический обзор с картированием исследований, включивший 118 рецензируемых публикаций, опубликованных начиная с 2017 года, чтобы определить современное состояние исследований по использованию LLM для автоматизации и поддержки образовательных задач. Результаты выявили 53 варианта использования LLM для автоматизации образовательных задач, классифицированных по девяти основным категориям: профилирование/маркировка, обнаружение, оценивание, поддержка преподавания, прогнозирование, представление знаний, обратная связь, генерация контента и рекомендации. Кроме того, были выявлены несколько практических и этических проблем, включая низкую технологическую готовность, отсутствие воспроизводимости и прозрачности, а также недостаточное внимание к вопросам конфиденциальности и благодеяния. Результаты были обобщены в виде трёх рекомендаций для будущих исследований: обновлять существующие инновационные решения с использованием современных передовых моделей (например, GPT-3/4), поддерживать инициативы по открытию исходного кода моделей и систем и применять человекоцентрированный подход на всех этапах разработки. Поскольку взаимодействие искусственного интеллекта и образования непрерывно развивается, результаты этого исследования могут служить важной отправной точкой для исследователей, позволяя им использовать сильные стороны, учитывать ограничения и выявлять потенциальные направления исследований, открываемые ChatGPT и другими генеративными моделями искусственного интеллекта. Примечания для практиков: Что в настоящее время известно об этой теме: создание и анализ текстового контента являются трудоёмкими и затратными по времени задачами. Большие языковые модели...
Key Findings
1
Систематический обзор 118 рецензируемых публикаций выявил 53 варианта применения больших языковых моделей в образовании, опубликованных с 2017 года.
2
К основным практическим и этическим проблемам относятся низкая технологическая готовность, недостаточная воспроизводимость и прозрачность, а также слабый учёт конфиденциальности и принципа благодеяния.
3
Выявленные варианты применения относятся к девяти категориям: профилирование/маркировка, обнаружение, оценивание, поддержка преподавания, прогнозирование, представление знаний, обратная связь, генерация контента и рекомендации.
4
Обзор рекомендует обновлять существующие решения с использованием современных моделей, таких как GPT-3/4, открывать исходный код моделей и систем и применять человеко-ориентированный подход к разработке.
5
Выявленные проблемы могут препятствовать развитию исследований и внедрению образовательных инноваций на основе больших языковых моделей в реальных образовательных условиях.
Research Object
Использование больших языковых моделей (LLM) в образовательных технологиях для автоматизации и поддержки текстовых образовательных задач
Research Subject
практические и этические проблемы, технологическая готовность, воспроизводимость, прозрачность, конфиденциальность и соблюдение принципа благодеяния этих инноваций в реальных образовательных условиях
Publication Details
Publication Date
2023-08-06
Journal
Publisher
ISSN
Cited by
1732
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai10
Использование генеративного искусственного интеллекта для масштабирования интеллектуальных обучающих систем2023
Систематический обзор исследований применения искусственного интеллекта в высшем образовании: где преподаватели?2019
Систематический обзор или обзоры в стиле scoping? Рекомендации для авторов при выборе между систематическим и scoping-подходом2018
Полезность ChatGPT в образовании, исследованиях и практике здравоохранения: систематический обзор перспективных возможностей и обоснованных опасений2023
Как ChatGPT показывает себя на экзамене для получения медицинской лицензии в США (USMLE)? Последствия использования крупных языковых моделей для медицинского образования и оценки знаний2023
ChatGPT: генератор бессмыслицы или конец традиционного оценивания в высшем образовании?2023
Последние достижения в области обработки естественного языка с использованием крупномасштабных предварительно обученных языковых моделей: обзор2023
Объяснимая искусственная интеллектуальная система в образовании2022
Мы уже достигли цели? — Систематический обзор литературы о чат-ботах в образовании2021
Фреймворк Aion: размерное возникновение сознания ИИ, коллапс под воздействием наблюдателя и динамика космологических порталов2023
Работы, цитирующие эту статью10
Перспективы и вызовы генеративного искусственного интеллекта в образовании2024
Влияние AI-помощи на агентность студентов2023
Когда большие языковые модели встречаются с кибербезопасностью: систематический обзор литературы2025
Большие языковые модели: всесторонний обзор их приложений, проблем, ограничений и перспектив развития2023
RLHF расшифровано: критический анализ обучения с подкреплением на основе человеческой обратной связи для крупных языковых моделей2025
Влияние генеративных AI‑агентов и неподкрепляющей поддержки (scaffolding) на улучшение понимания студентами визуальной аналитики обучения2025
Большие языковые модели: структурированная таксономия и обзор проблем, ограничений, решений и перспективных направлений2025
Субъектность в эпоху генеративного искусственного интеллекта: критический обзор последствий для образования2026
Агентный искусственный интеллект в здравоохранении и медицине: семимерная таксономия для эмпирической оценки агентов на основе больших языковых моделей2026
Выявление закономерностей взаимодействия студентов с обучаемыми агентами на основе генеративного искусственного интеллекта: акцент на субъектности студентов и авторитетности агентов ИИ2026