Злонамеренное использование искусственного интеллекта: прогнозирование, предотвращение и минимизация последствий

The malicious use of artificial intelligence: Forecasting, prevention, and mitigation
Jacob Steinhardt, Jack Clark, Dario Amodei, Joanna J. Bryson, Owain Evans, Miles Brundage, Shahar Avin, Haydn Belfield, Helen Toner, Peter Eckersley, Seán Ó hÉigeartaigh, Paul Scharre, Carrick Flynn, Gregory C. Allen, Thomas Zeitzoff, Michael Le Page, Sebastian Farquhar, Ben Garfinkel, Dafoe, Allen, Bobby Filar, Hyrum S. Anderson, Heather M. Roff, SJ Beard, Clare Lyle, Rebecca Crootof, Roman V. Yampolskiy
2018-02-20
SCID:  54.1/wa352deq Discuss with AI
угрозы безопасности ИИзлонамеренное использование искусственного интеллектапрогнозирование угрозсмягчение угрозпредотвращение угроз
Abstract (AI)
В этом докладе рассматривается спектр потенциальных угроз безопасности, связанных со злонамеренным использованием искусственного интеллекта (ИИ), и предлагаются способы совершенствования прогнозирования, предотвращения и минимизации последствий этих угроз. Проанализировав, как ИИ может влиять на ландшафт угроз в цифровой, физической и политической сферах, мы формулируем четыре общих рекомендации для исследователей в области ИИ и других заинтересованных сторон. Мы также выделяем несколько перспективных направлений дальнейших исследований, которые могли бы расширить арсенал средств защиты либо сделать атаки менее эффективными или более сложными для осуществления. Наконец, мы обсуждаем, но не разрешаем однозначно, вопрос долгосрочного равновесия между атакующими и защитниками.
Key Findings
1
Предлагаются общие рекомендации для исследователей ИИ и других заинтересованных сторон по улучшению прогнозирования, предотвращения и смягчения угроз, связанных с ИИ.
2
Долгосрочное равновесие между атакующими и защитниками, использующими ИИ, согласно отчёту, остаётся нерешённым вопросом.
3
Отмечаются перспективные направления исследований для расширения оборонительных возможностей и снижения эффективности или усложнения осуществления злонамеренных атак.
4
В отчёте рассматриваются потенциальные угрозы безопасности, возникающие при злонамеренном использовании искусственного интеллекта в цифровой, физической и политической сферах.
Research Object

Злонамеренное использование искусственного интеллекта

Research Subject

угрозы безопасности, а также прогнозирование, предотвращение и смягчение этих угроз

Publication Details
Publication Date
2018-02-20
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Jacob Steinhardt
Jack Clark
Dario Amodei
Joanna J. Bryson
Owain Evans
Miles Brundage
Shahar Avin
Haydn Belfield
Helen Toner
Peter Eckersley
Seán Ó hÉigeartaigh
Paul Scharre
Carrick Flynn
Gregory C. Allen
Thomas Zeitzoff
Michael Le Page
Sebastian Farquhar
Ben Garfinkel
Dafoe, Allen
Bobby Filar
Hyrum S. Anderson
Heather M. Roff
SJ Beard
Clare Lyle
Rebecca Crootof
Roman V. Yampolskiy
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%