Чат-боты на основе искусственного интеллекта для самоуправления психическим здоровьем: качественное исследование, сфокусированное на личном опыте

Обоснование: Большие языковые модели (LLM) теперь позволяют чат-ботам участвовать в деликатных беседах о психическом здоровье, включая самоуправление депрессией. Однако при их стремительном внедрении часто упускается из виду, насколько хорошо эти инструменты соответствуют приоритетам людей, имеющих личный опыт соответствующих состояний, что может приводить к таким видам вреда, как недостоверная информация, отсутствие эмпатии или недостаточная поддержка в кризисных ситуациях. Цель: Изучить, как люди с личным опытом депрессии воспринимают чат-бота для поддержки психического здоровья на основе большой языковой модели в контексте самоуправления, а также какие воспринимаемые преимущества, ограничения и опасения формируют выводы для проектирования, направленного на снижение потенциального вреда. Методы: Мы разработали технологический зонд — чат-бота Zenny на основе GPT-4o, предназначенного для имитации сценариев самоуправления депрессией, сформированных на основе предыдущих исследований. Мы провели интервью с 17 людьми, имеющими личный опыт депрессии; во время сессии они взаимодействовали с Zenny. К транскриптам интервью, заметкам и журналам чатов был применён качественный контент-анализ с использованием сенсибилизирующих концепций, связанных с ценностями и потенциальным вредом. Результаты: Мы выявили 3 темы, определявшие оценки участников: (1) точность и применимость информации, включая опасения по поводу неверной или вводящей в заблуждение информации, расплывчатости и соответствия личным ограничениям; (2) эмоциональная поддержка и потребность в человеческом взаимодействии, включая валидацию переживаний и возможность общения без страха осуждения наряду с воспринимаемыми ограничениями машинной эмпатии; и (3) дилемма персонализации и конфиденциальности, при которой участники хотели получать более адаптированные рекомендации, одновременно скрывая конфиденциальную информацию и используя тактики защиты приватности. Выводы: Люди с личным опытом депрессии оценивали чат-ботов для поддержки психического здоровья на основе большой языковой модели с учётом взаимосвязанных приоритетов: практической информации, эмоциональной валидации с чётко обозначенными ограничениями и персонализации, не требующей небезопасного раскрытия данных. Эти результаты указывают на конкретные стратегии проектирования, позволяющие снизить потенциальный вред и поддержать использование инструментов на основе больших языковых моделей как дополнения, а не замены...