Злонамеренное использование искусственного интеллекта: прогнозирование, предотвращение и минимизация последствий
The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation
2018-02-20
SCID: 54.1/wa352deq
Discuss with AI
угрозы безопасности ИИзлонамеренное использование искусственного интеллектапрогнозирование угрозсмягчение угрозпредотвращение угроз
Figures from the paper
Abstract (AI)
В этом докладе рассматривается спектр потенциальных угроз безопасности, связанных со злонамеренным использованием искусственного интеллекта (ИИ), и предлагаются способы совершенствования прогнозирования, предотвращения и минимизации последствий этих угроз. Проанализировав, как ИИ может влиять на ландшафт угроз в цифровой, физической и политической сферах, мы формулируем четыре общих рекомендации для исследователей в области ИИ и других заинтересованных сторон. Мы также выделяем несколько перспективных направлений дальнейших исследований, которые могли бы расширить арсенал средств защиты либо сделать атаки менее эффективными или более сложными для осуществления. Наконец, мы обсуждаем, но не разрешаем однозначно, вопрос долгосрочного равновесия между атакующими и защитниками.
Key Findings
1
Предлагаются общие рекомендации для исследователей ИИ и других заинтересованных сторон по улучшению прогнозирования, предотвращения и смягчения угроз, связанных с ИИ.
2
Долгосрочное равновесие между атакующими и защитниками, использующими ИИ, согласно отчёту, остаётся нерешённым вопросом.
3
Отмечаются перспективные направления исследований для расширения оборонительных возможностей и снижения эффективности или усложнения осуществления злонамеренных атак.
4
В отчёте рассматриваются потенциальные угрозы безопасности, возникающие при злонамеренном использовании искусственного интеллекта в цифровой, физической и политической сферах.
Research Object
Злонамеренное использование искусственного интеллекта
Research Subject
угрозы безопасности, а также прогнозирование, предотвращение и смягчение этих угроз
Publication Details
Publication Date
2018-02-20
Journal
Publisher
ISSN
Cited by
846
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Работы, цитирующие эту статью7
Концептуализация грамотности в области искусственного интеллекта: разведочный обзор2021
Этические принципы использования искусственного интеллекта в образовании2022
Социотехнический вред алгоритмических систем: разработка таксономии для снижения вреда2023
Регулирование ChatGPT и других больших генеративных моделей ИИ2023
Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ2024
Правовые вопросы и вопросы прав человека, связанные с искусственным интеллектом: пробелы, вызовы и уязвимости2020
Машины как члены команды: программа исследований искусственного интеллекта в командном взаимодействии2019