Оценка проблем конфиденциальности в области науки о поведенческих данных при внедрении искусственного интеллекта государственными органами

В современной глобальной культуре, где Интернет утвердился в качестве основного инструмента коммуникации и торговли, способность в массовом масштабе анализировать и прогнозировать поведение граждан стала приоритетом для правительств с точки зрения коллективного интеллекта и безопасности. В то же время новые возможности, которые искусственный интеллект (ИИ) предоставляет государственным органам для понимания и разработки методов анализа коллективного поведения, вызвали серьезные опасения относительно конфиденциальности граждан. Чтобы выявить основные направления использования ИИ государственными органами и определить обеспокоенность граждан вопросами конфиденциальности, в настоящем исследовании был проведен систематический обзор литературы, углубленные интервью и анализ данных методами интеллектуального анализа данных. На основе полученных результатов мы классифицировали и обсудили риски для конфиденциальности граждан в соответствии с типами стратегий ИИ, применяемых государственными органами, которые могут влиять на коллективное поведение и приводить к масштабной модификации поведения. Результаты выявили 11 направлений применения стратегий ИИ государственными органами для улучшения взаимодействия с гражданами и организациями в городах, услуг, предоставляемых государственными учреждениями, экономики и других сфер. В отношении конфиденциальности граждан при использовании ИИ государственными органами мы выделили восемь тем, связанных с прогнозированием поведения человека, интеллектуальным принятием решений, автоматизацией принятия решений, цифровым наблюдением, законодательством и регулированием в сфере конфиденциальности данных, а также риском модификации поведения. В статье обсуждается разработка нормативного регулирования, ориентированного на этичное проектирование сбора данных о гражданах; представлены выводы для государственных органов, направленные на регулирование вопросов безопасности, этики и конфиденциальности данных. Кроме того, мы предлагаем исследовательскую повестку, включающую 16 исследовательских вопросов для дальнейшего изучения.