Практические и этические проблемы использования больших языковых моделей в образовании: систематический обзор с картированием исследований

Инновации в области образовательных технологий, использующие большие языковые модели (LLM), продемонстрировали потенциал автоматизации трудоёмкого процесса создания и анализа текстового контента. Хотя были разработаны различные инновационные решения для автоматизации широкого спектра образовательных задач (например, генерации вопросов, предоставления обратной связи и оценивания эссе), существуют опасения относительно практической применимости и этичности этих решений. Такие опасения могут препятствовать дальнейшим исследованиям и внедрению инноваций на основе LLM в реальных образовательных условиях. Для решения этой задачи мы провели систематический обзор с картированием исследований, включивший 118 рецензируемых публикаций, опубликованных начиная с 2017 года, чтобы определить современное состояние исследований по использованию LLM для автоматизации и поддержки образовательных задач. Результаты выявили 53 варианта использования LLM для автоматизации образовательных задач, классифицированных по девяти основным категориям: профилирование/маркировка, обнаружение, оценивание, поддержка преподавания, прогнозирование, представление знаний, обратная связь, генерация контента и рекомендации. Кроме того, были выявлены несколько практических и этических проблем, включая низкую технологическую готовность, отсутствие воспроизводимости и прозрачности, а также недостаточное внимание к вопросам конфиденциальности и благодеяния. Результаты были обобщены в виде трёх рекомендаций для будущих исследований: обновлять существующие инновационные решения с использованием современных передовых моделей (например, GPT-3/4), поддерживать инициативы по открытию исходного кода моделей и систем и применять человекоцентрированный подход на всех этапах разработки. Поскольку взаимодействие искусственного интеллекта и образования непрерывно развивается, результаты этого исследования могут служить важной отправной точкой для исследователей, позволяя им использовать сильные стороны, учитывать ограничения и выявлять потенциальные направления исследований, открываемые ChatGPT и другими генеративными моделями искусственного интеллекта. Примечания для практиков: Что в настоящее время известно об этой теме: создание и анализ текстового контента являются трудоёмкими и затратными по времени задачами. Большие языковые модели...