Галлюцинируя вместе с ИИ: распределённые бредовые идеи и «психоз, вызванный ИИ»

В настоящее время много говорят о ложных ответах, которые создают генеративные системы искусственного интеллекта (ИИ), такие как ChatGPT, Claude, Gemini, DeepSeek и Grok. В обиходе их называют «галлюцинациями ИИ». Однако применение термина «галлюцинации» к таким ответам ИИ вызывает споры: многие считают это метафорически неточным обозначением. Тем не менее в этой статье я утверждаю, что рассмотрение данного явления сквозь призму теории распределённого познания позволяет лучше увидеть динамические способы, посредством которых во взаимодействии человека и ИИ могут возникать неточные убеждения, искажённые воспоминания и самоописания, а также бредовое мышление; крайние проявления этого процесса иногда называют «психозом, вызванным ИИ». В таких случаях, по моему мнению, следует отказаться от представления о том, что система ИИ может «галлюцинировать для нас», генерируя ложные ответы, и сосредоточиться на том, как, регулярно полагаясь на генеративный ИИ, помогающий нам думать, вспоминать и формулировать повествование о себе, мы можем начать галлюцинировать вместе с ИИ. Это может происходить, когда ИИ вносит ошибки в распределённый когнитивный процесс, но также и тогда, когда ИИ поддерживает, подтверждает и развивает наше собственное бредовое мышление и самоописания. В частности, я утверждаю, что социально ориентированный разговорный стиль чат-ботов может приводить к выполнению ими двойной функции — одновременно когнитивного артефакта и квази-Другого, вместе с которым мы конструируем своё представление о реальности. Именно эта двойная функция, по моему мнению, делает генеративный ИИ необычным и особенно соблазнительным примером распределённого бреда.