Влияние чрезмерной зависимости от диалоговых систем искусственного интеллекта на когнитивные способности студентов: систематический обзор

The effects of over-reliance on AI dialogue systems on students' cognitive abilities: a systematic review
Santoso Wibowo, Chunpeng Zhai, Lily D. Li
2024-06-18

диалоговые системы ИИкогнитивные способностикритическое мышлениечрезмерная зависимость от ИИсистематический обзор
Растущая интеграция диалоговых систем искусственного интеллекта (ИИ) в образовательную и исследовательскую деятельность подчеркивает важность средств обучения. Несмотря на изучение этических проблем, связанных с этими технологиями, наблюдается заметный пробел в исследованиях того, каким образом этические аспекты ИИ способствуют чрезмерной зависимости студентов от диалоговых систем ИИ и как такая зависимость влияет на их когнитивные способности. Чрезмерная зависимость от ИИ возникает, когда пользователи безоговорочно принимают рекомендации, сгенерированные ИИ, что приводит к ошибкам при выполнении задач в процессе принятия решений. Обычно это происходит, когда людям трудно оценить надежность ИИ или определить, насколько следует доверять его рекомендациям. В настоящем систематическом обзоре исследуется, как чрезмерная зависимость студентов от диалоговых систем ИИ, особенно систем, использующих генеративные модели для академических исследований и обучения, влияет на их ключевые когнитивные способности, включая принятие решений, критическое мышление и аналитическое рассуждение. С использованием рекомендаций Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) в систематическом обзоре был проанализирован массив публикаций, посвященных факторам, способствующим такой зависимости, и ее последствиям в образовательном и исследовательском контекстах. Комплексный обзор литературы охватил 14 статей, найденных в четырех авторитетных базах данных: ProQuest, IEEE Xplore, ScienceDirect и Web of Science. Результаты показывают, что чрезмерная зависимость, обусловленная этическими проблемами ИИ, влияет на когнитивные способности, поскольку люди все чаще отдают предпочтение быстрым и оптимальным решениям вместо более медленных решений, ограниченных практической осуществимостью. Эта тенденция объясняет, почему пользователи предпочитают эффективные когнитивные shortcuts, или эвристики, даже несмотря на этические проблемы, обусловленные технологиями ИИ.
1
Этические проблемы, связанные с ИИ, способствуют чрезмерной зависимости, которая может ухудшать когнитивные способности и приводить к ошибкам при выполнении задач принятия решений.
2
В соответствии с рекомендациями PRISMA обзор проанализировал 14 статей, найденных в базах ProQuest, IEEE Xplore, ScienceDirect и Web of Science.
3
Чрезмерная зависимость возникает, когда студенты принимают рекомендации ИИ без надлежащей оценки их надежности и необходимой степени доверия.
4
Студенты всё чаще предпочитают быстрые и эффективные решения, а также когнитивные эвристики, медленному и требующему усилий рассуждению, даже при наличии этических проблем ИИ.
5
Систематический обзор изучает, как чрезмерная зависимость студентов от диалоговых систем генеративного ИИ влияет на принятие решений, критическое мышление и аналитическое рассуждение.

Чрезмерная зависимость студентов от диалоговых AI-систем (в частности систем на основе генеративных моделей, используемых для академических исследований и обучения)

Влияние этой чрезмерной зависимости на критические когнитивные способности студентов, включая принятие решений, критическое мышление и аналитическое рассуждение

Publication Details
Publication Date
2024-06-18
Journal
Publisher
ISSN
Cited by
1372
Access Type
Author Information
Authors
Santoso Wibowo
Chunpeng Zhai
Lily D. Li
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%