Влияние чрезмерной зависимости от диалоговых систем искусственного интеллекта на когнитивные способности студентов: систематический обзор
The effects of over-reliance on AI dialogue systems on students' cognitive abilities: a systematic review
2024-06-18
SCID: 54.1/wd3rxeqq
Discuss with AI
диалоговые системы ИИкогнитивные способностикритическое мышлениечрезмерная зависимость от ИИсистематический обзор
Figures from the paper
Abstract (AI)
Растущая интеграция диалоговых систем искусственного интеллекта (ИИ) в образовательную и исследовательскую деятельность подчеркивает важность средств обучения. Несмотря на изучение этических проблем, связанных с этими технологиями, наблюдается заметный пробел в исследованиях того, каким образом этические аспекты ИИ способствуют чрезмерной зависимости студентов от диалоговых систем ИИ и как такая зависимость влияет на их когнитивные способности. Чрезмерная зависимость от ИИ возникает, когда пользователи безоговорочно принимают рекомендации, сгенерированные ИИ, что приводит к ошибкам при выполнении задач в процессе принятия решений. Обычно это происходит, когда людям трудно оценить надежность ИИ или определить, насколько следует доверять его рекомендациям. В настоящем систематическом обзоре исследуется, как чрезмерная зависимость студентов от диалоговых систем ИИ, особенно систем, использующих генеративные модели для академических исследований и обучения, влияет на их ключевые когнитивные способности, включая принятие решений, критическое мышление и аналитическое рассуждение. С использованием рекомендаций Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) в систематическом обзоре был проанализирован массив публикаций, посвященных факторам, способствующим такой зависимости, и ее последствиям в образовательном и исследовательском контекстах. Комплексный обзор литературы охватил 14 статей, найденных в четырех авторитетных базах данных: ProQuest, IEEE Xplore, ScienceDirect и Web of Science. Результаты показывают, что чрезмерная зависимость, обусловленная этическими проблемами ИИ, влияет на когнитивные способности, поскольку люди все чаще отдают предпочтение быстрым и оптимальным решениям вместо более медленных решений, ограниченных практической осуществимостью. Эта тенденция объясняет, почему пользователи предпочитают эффективные когнитивные shortcuts, или эвристики, даже несмотря на этические проблемы, обусловленные технологиями ИИ.
Key Findings
1
Этические проблемы, связанные с ИИ, способствуют чрезмерной зависимости, которая может ухудшать когнитивные способности и приводить к ошибкам при выполнении задач принятия решений.
2
В соответствии с рекомендациями PRISMA обзор проанализировал 14 статей, найденных в базах ProQuest, IEEE Xplore, ScienceDirect и Web of Science.
3
Чрезмерная зависимость возникает, когда студенты принимают рекомендации ИИ без надлежащей оценки их надежности и необходимой степени доверия.
4
Студенты всё чаще предпочитают быстрые и эффективные решения, а также когнитивные эвристики, медленному и требующему усилий рассуждению, даже при наличии этических проблем ИИ.
5
Систематический обзор изучает, как чрезмерная зависимость студентов от диалоговых систем генеративного ИИ влияет на принятие решений, критическое мышление и аналитическое рассуждение.
Research Object
Чрезмерная зависимость студентов от диалоговых AI-систем (в частности систем на основе генеративных моделей, используемых для академических исследований и обучения)
Research Subject
Влияние этой чрезмерной зависимости на критические когнитивные способности студентов, включая принятие решений, критическое мышление и аналитическое рассуждение
Publication Details
Publication Date
2024-06-18
Journal
Publisher
ISSN
Cited by
1514
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai15
Использование генеративного искусственного интеллекта для масштабирования интеллектуальных обучающих систем2023
Расширение PRISMA для обзорных исследований (PRISMA-ScR): контрольный список и пояснения2018
Роль префронтальной коры в когнитивном контроле и исполнительных функциях2021
Интерпретируемость машинного обучения: обзор методов и метрик2019
Преимущества, ограничения и риски GPT-4 как чатбота на основе ИИ для медицины2023
Сравнение научных аннотаций, сгенерированных ChatGPT, с реальными аннотациями с помощью детекторов и слепых рецензентов2023
Формирование будущего образования: изучение потенциала и последствий применения искусственного интеллекта и ChatGPT в образовательной среде2023
От человеческого письма к текстам, сгенерированным искусственным интеллектом: перспективы и потенциальные угрозы ChatGPT в академическом письме2023
Влияние инструментов искусственного интеллекта для написания текстов на содержание и структуру студенческих письменных работ: мнение преподавателей английского языка как иностранного2023
ChatGPT и рост крупных языковых моделей: новая угроза инфодемии, вызванной ИИ, для общественного здоровья2023
На пути к стандарту выявления и управления предвзятостью в области искусственного интеллекта2022
Управление стратегической трансформацией высшего образования посредством искусственного интеллекта2023
Сравнение научных аннотаций, сгенерированных ChatGPT, с оригинальными аннотациями с использованием детектора AI-выхода, детектора плагиата и слепых рецензентов2022
Искусственный интеллект против Майи Энджелоу: Экспериментальные данные о том, что люди не могут отличить стихи, созданные искусственным интеллектом, от стихов, написанных человеком2020
Систематический обзор систем диалога на основе искусственного интеллекта для повышения интерактивной компетенции студентов, изучающих английский язык как иностранный, в университете2023
Работы, цитирующие эту статью8
Адаптивное обучение на основе искусственного интеллекта для устойчивой трансформации образования2024
Образовательные приложения с интеграцией искусственного интеллекта (ИИ), креативность и академические эмоции студентов колледжей: восприятие и отношение студентов и преподавателей2024
Может ли ChatGPT вызывать зависимость? Призыв изучить сдвиг от поддержки к зависимости в разговорных больших языковых моделях ИИ2025
Потенциальные риски интеграции генеративного искусственного интеллекта в образование K–12: обзор области исследований2026
Использование искусственного интеллекта для повышения эффективности научного сотрудничества: мнения студентов и образовательные последствия2024
Психологические детерминанты внедрения генеративного искусственного интеллекта в обучение иностранным языкам: расширенная модель UTAUT2 и подход на основе анализа тональности2026
Когда машины входят в круг моральных субъектов: эффект персоны генеративных ИИ-агентов в совместном рассуждении2026
Влияние крупных языковых моделей на процессы и результаты совместного обучения в высшем образовании по английскому переводу2026