Большие языковые модели для кибербезопасности: систематический обзор литературы
Large Language Models for Cyber Security: A Systematic Literature Review
2025-09-29
SCID: 54.1/b599pyab
Discuss with AI
Автономные агенты безопасностиКибербезопасностьБольшие языковые моделиАнализ вредоносного ПООбнаружение уязвимостей
Figures from the paper
Abstract (AI)
Стремительное развитие больших языковых моделей (LLM) открыло новые возможности для применения искусственного интеллекта в различных предметных областях, включая кибербезопасность. По мере роста объема и сложности киберугроз возрастает потребность в интеллектуальных системах, способных автоматически выявлять уязвимости, анализировать вредоносное программное обеспечение и реагировать на атаки. В настоящем обзорном исследовании представлен всесторонний анализ литературы, посвященной применению LLM в кибербезопасности (LLM4Security). На основе комплексного сбора более 40 тыс. релевантных публикаций и систематического анализа 185 статей, опубликованных на ведущих конференциях и в изданиях по безопасности и программной инженерии, мы стремимся сформировать целостное представление о том, как LLM используются для решения разнообразных задач в области кибербезопасности. Проведенный анализ позволил выявить несколько ключевых результатов. Во-первых, LLM применяются для решения все более широкого спектра задач кибербезопасности, включая обнаружение уязвимостей, анализ вредоносного программного обеспечения и выявление сетевых вторжений. Во-вторых, мы анализируем тенденции применения различных архитектур LLM, таких как модели только с кодировщиком, модели «кодировщик—декодировщик» и модели только с декодировщиком, в различных областях безопасности. В-третьих, мы выявляем все более совершенные методы адаптации LLM к задачам кибербезопасности, включая продвинутую тонкую настройку, инженеринг запросов и стратегии внешнего расширения. Значимой новой тенденцией является использование автономных агентов на основе LLM, что представляет собой переход от выполнения отдельных задач к оркестрации сложных многоэтапных рабочих процессов обеспечения безопасности. Кроме того, мы установили, что наборы данных, используемые для обучения и оценки LLM, зачастую ограничены, что подчеркивает необходимость создания более комплексных наборов данных и применения LLM для аугментации данных. Наконец, мы обсуждаем основные проблемы и возможности для будущих исследований, включая необходимость разработки более интерпретируемых моделей, устранение присущих LLM рисков безопасности и их потенциал для проактивной защиты. В целом, наш обзор предоставляет исчерпывающую...
Key Findings
1
Адаптация LLM к кибербезопасности все чаще включает продвинутую тонкую настройку, разработку промптов и стратегии внешнего дополнения.
2
Для разных доменов кибербезопасности наблюдаются различные тенденции применения архитектур LLM: толькокодировочных, кодировочно-декодировочных и только декодировочных.
3
Ключевые направления будущих исследований включают создание интерпретируемых моделей, снижение рисков безопасности LLM и применение моделей для проактивной защиты.
4
Автономные агенты на основе LLM формируют переход от выполнения отдельных задач к координации сложных многоэтапных рабочих процессов безопасности.
5
Большие языковые модели все чаще применяются для различных задач кибербезопасности, включая обнаружение уязвимостей, анализ вредоносного ПО и выявление сетевых вторжений.
6
В обзоре систематически проанализированы 185 работ по кибербезопасности, отобранных из более чем 40 000 релевантных публикаций, что дает широкий обзор исследований LLM4Security.
7
Наборы данных для обучения и оценки часто ограничены, что подчеркивает необходимость более полных наборов данных и их дополнения с помощью LLM.
Research Object
Большие языковые модели, применяемые в кибербезопасности
Research Subject
Применение, архитектуры, методы адаптации, использование автономных агентов, наборы данных, проблемы и перспективы LLM в различных задачах кибербезопасности
Publication Details
Publication Date
2025-09-29
Journal
Publisher
ISSN
Cited by
464
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai20
Исследование пределов трансферного обучения с помощью унифицированного преобразователя текста в текст2019
LLaMA: открытые и эффективные базовые языковые модели2023
Труды 24-й Международной конференции по машинному обучению2007
Обзор больших языковых моделей2026
Генерация с дополнением извлечённой информацией для больших языковых моделей: обзор2023
Предварительное обучение, промптинг и предсказание: систематический обзор методов промптинга в обработке естественного языка2022
Обучение языковых моделей следованию инструкциям с использованием обратной связи от человека2022
CodeBERT: предобученная модель для языков программирования и естественных языков2020
Объединение больших языковых моделей и графов знаний: дорожная карта2024
PaLM: Масштабирование языкового моделирования с помощью Pathways2022
🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях2025
Законы масштабирования нейронных языковых моделей2020
Искры искусственного общего интеллекта: ранние эксперименты с GPT-42023
Оценка больших языковых моделей, обученных на коде2021
Обзор безопасности и конфиденциальности больших языковых моделей (LLM): хорошее, плохое и ужасное2024
Большие языковые модели для программной инженерии: систематический обзор литературы2024
Атаки с внедрением промптов на приложения, интегрированные с большими языковыми моделями2023
О больших языковых моделях2024
Не то, на что вы подписывались: компрометация реальных приложений, интегрированных с большими языковыми моделями, с помощью косвенного внедрения промптов2023
Проблемы и применения больших языковых моделей2023
Работы, цитирующие эту статью3
Применение больших языковых моделей в кибербезопасности: систематический обзор литературы2024
Большие языковые модели как хакеры: автономные атаки на повышение привилегий в Linux2026
Совершенствование центров управления безопасностью: реагирование Wazuh на события безопасности с использованием копилота на основе генерации с дополнением поиска2025