Манипуляция и обман в образовании, опосредованном генеративным искусственным интеллектом: сохранение эпистемической субъектности, критического мышления и креативности

Генеративный искусственный интеллект уже опосредует ключевые компоненты обучения, однако у нас отсутствуют критерии, позволяющие отличать его легитимное педагогическое применение от манипулятивного и обманного. Мы также недостаточно понимаем, как искусственный интеллект влияет на развитие критического мышления и креативности и не ускоряет ли он переход от образовательных ценностей к оценочным метрикам. Используя постцифровую прагматистскую перспективу, рассматривающую учебные аудитории как социоматериальные совокупности людей, платформ и институтов, мы предлагаем три ориентира: моральную легитимность (момент, когда влияние искусственного интеллекта переходит в более проблематичные формы манипуляции или обмана), целостность развития (то, как инструменты поддерживают, а не подменяют рефлексивное суждение и творческую деятельность) и сохранение ценностей (защиту эпистемической субъектности и интеллектуальных добродетелей). Эта исследовательская программа предполагает определение и проверку понятий и пороговых значений, рассмотрение сложных случаев с позиций, основанных на автономии, добродетелях и результатах, а также разработку способов преобразования полученных результатов в решения для дизайна и политики. Ожидаемые результаты включают типологию влияния (подталкивание, убеждение, манипуляция и обман), аудит легитимности и ограничения дизайна, основанные на этике добродетелей (например, оспоримость, обоснование решений и калиброванная уверенность), которые позволяют развивать образовательные технологии в соответствии с гуманистическими целями.