Когда большие языковые модели встречаются с кибербезопасностью: систематический обзор литературы
When LLMs meet cybersecurity: a systematic literature review
2025-02-05
SCID: 54.1/tbz2zwt7
Discuss with AI
кибербезопасностьзадачи кибербезопасностиLLM для кибербезопасностибольшие языковые моделисистематический обзор литературы
Figures from the paper
Abstract (AI)
Стремительное развитие больших языковых моделей (LLM) открыло новые возможности в различных областях, включая кибербезопасность, которая сталкивается с постоянно меняющимся ландшафтом угроз и растущим спросом на инновационные технологии. Несмотря на первые исследования применения LLM в кибербезопасности, комплексный обзор этой области исследований отсутствует. В данной работе этот пробел восполняется посредством систематического обзора литературы, охватывающего анализ более 300 публикаций, посвящённых 25 LLM и более чем 10 сценариям последующего применения. В рамках комплексного обзора рассматриваются три ключевых исследовательских вопроса: разработка LLM, ориентированных на кибербезопасность; применение LLM для решения различных задач кибербезопасности; а также проблемы и направления дальнейших исследований в этой области. Цель исследования — осветить значительный потенциал LLM для совершенствования практик кибербезопасности и предоставить полезный ресурс для применения LLM в данной сфере. Кроме того, мы поддерживаем и регулярно обновляем список практических руководств по применению LLM в кибербезопасности по адресу https://github.com/tmylla/Awesome-LLM4Cybersecurity.
Key Findings
1
Статья предоставляет объединённый ресурс для исследователей и практиков, включая регулярно обновляемый репозиторий практических руководств по применению LLM в кибербезопасности.
2
Обзор подчёркивает необходимость дальнейших исследований для решения нерешённых проблем применения LLM в кибербезопасности.
3
Обзор систематизирует исследования по созданию специализированных для кибербезопасности LLM, применению LLM к задачам кибербезопасности и существующим проблемам.
4
Исследование выявляет значительный потенциал LLM для улучшения практик кибербезопасности в различных прикладных сценариях.
5
Систематический обзор анализирует более 300 исследований, охватывающих 25 больших языковых моделей и более 10 сценариев применения в кибербезопасности.
Research Object
большие языковые модели, применяемые в кибербезопасности
Research Subject
их разработка, применение для задач кибербезопасности, проблемы и направления дальнейших исследований
Publication Details
Publication Date
2025-02-05
Journal
Publisher
ISSN
Cited by
299
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai11
LLaMA: открытые и эффективные базовые языковые модели2023
🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях2025
Практические и этические проблемы использования больших языковых моделей в образовании: систематический обзор с картированием исследований2023
Рамочная система управления рисками искусственного интеллекта (AI RMF 1.0)2023
Обзор безопасности и конфиденциальности больших языковых моделей (LLM): хорошее, плохое и ужасное2024
Большие языковые модели для программной инженерии: систематический обзор литературы2024
От ChatGPT к ThreatGPT: влияние генеративного искусственного интеллекта на кибербезопасность и конфиденциальность2023
Магия проектирования запросов2024
HuntGPT: интеграция обнаружения аномалий на основе машинного обучения и объяснимого искусственного интеллекта с большими языковыми моделями (LLM)2026
InjecAgent: бенчмаркинг косвенных внедрений промптов в агентных системах на основе больших языковых моделей с интеграцией инструментов2024
Большие языковые модели как хакеры: автономные атаки на повышение привилегий в Linux2026