Применение больших языковых моделей в кибербезопасности: систематический обзор литературы
Application of Large Language Models in Cybersecurity: A Systematic Literature Review
2024-01-01
SCID: 54.1/967zbm2y
Discuss with AI
КибербезопасностьБольшие языковые моделиНаступательная и оборонительная кибербезопасностьСимуляция фишинговых атакСистематический обзор литературы
Figures from the paper
Abstract (AI)
Появление больших языковых моделей (LLM) в настоящее время приводит к существенному изменению парадигмы использования цифровых технологий в обществе и бизнесе. Хотя наиболее заметно деструктивное воздействие этих технологий проявляется в сфере информационно-коммуникационных технологий, ощущается явный недостаток систематических исследований, комплексно рассматривающих применение и влияние LLM в области кибербезопасности. В статье представлен исчерпывающий систематический обзор литературы, включающий 177 статей, опубликованных в 2018–2024 годах, по применению LLM и использованию искусственного интеллекта (ИИ) в качестве защитного средства в кибербезопасности. Статья представляет аналитический компендиум современных исследований применения LLM в наступательной и оборонительной кибербезопасности, а также исследований киберэтики, действующих правовых рамок и использования LLM для управления кибербезопасностью. Кроме того, приведено статистическое обобщение глобальных тенденций исследований в данной области. Среди рассмотренных публикаций 68% были опубликованы в 2023 году. Почти 30% статей поступают из США и 11% — из Китая, тогда как вклад других стран в современные исследования в настоящее время значительно ниже. Наибольшее внимание в последних исследованиях уделялось ИИ как защитному средству: на такие работы приходится 27% рассмотренной литературы. Было установлено, что LLM продемонстрировали высокую эффективность при моделировании фишинговых атак и управлении административными аспектами кибербезопасности, включая защиту от сложных эксплойтов. Кроме того, LLM обладают значительным потенциалом для разработки программного обеспечения безопасности, что дополнительно укрепляет их роль как мощного инструмента инноваций в сфере кибербезопасности.
Key Findings
1
Наибольшее внимание уделялось применению ИИ как защитной меры в кибербезопасности — 27% рассмотренной литературы.
2
LLM показали высокую эффективность в моделировании фишинговых атак и управлении административными аспектами кибербезопасности, включая защиту от сложных эксплойтов.
3
LLM обладают значительным потенциалом для разработки защитного программного обеспечения и поддержки инноваций в кибербезопасности, а также применяются в исследованиях киберэтики, правовых норм и управления.
4
Исследовательская активность достигла пика в 2023 году, на который пришлось 68% рассмотренных публикаций; почти 30% работ происходили из США, а 11% — из Китая.
5
В обзоре систематически проанализированы 177 публикаций 2018–2024 годов о применении LLM и ИИ для защитных мер в кибербезопасности.
Research Object
Применение больших языковых моделей и искусственного интеллекта в кибербезопасности
Research Subject
Их наступательные и защитные возможности, эффективность, влияние и роль в операциях по обеспечению кибербезопасности, управлении, этике и правовых рамках
Publication Details
Publication Date
2024-01-01
Journal
Publisher
ISSN
Cited by
129
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai13
Заявление PRISMA 2020: обновлённое руководство по представлению систематических обзоров2021
Исследование пределов трансферного обучения с помощью унифицированного преобразователя текста в текст2019
LLaMA: открытые и эффективные базовые языковые модели2023
VADER: экономная модель на основе правил для анализа тональности текстов социальных медиа2014
ChatGPT: комплексный обзор предпосылок создания, применений, ключевых проблем, предвзятости, этических аспектов, ограничений и перспектив развития2023
BloombergGPT: большая языковая модель для финансов2023
Обзор безопасности и конфиденциальности больших языковых моделей (LLM): хорошее, плохое и ужасное2024
Большие языковые модели для программной инженерии: систематический обзор литературы2024
От ChatGPT к ThreatGPT: влияние генеративного искусственного интеллекта на кибербезопасность и конфиденциальность2023
Наука о данных в области кибербезопасности: обзор с точки зрения машинного обучения2020
Большие языковые модели для кибербезопасности: систематический обзор литературы2025
HuntGPT: интеграция обнаружения аномалий на основе машинного обучения и объяснимого искусственного интеллекта с большими языковыми моделями (LLM)2026
Большие языковые модели как хакеры: автономные атаки на повышение привилегий в Linux2026