Большие языковые модели для кибербезопасности: систематический обзор литературы

Стремительное развитие больших языковых моделей (LLM) открыло новые возможности для применения искусственного интеллекта в различных предметных областях, включая кибербезопасность. По мере роста объема и сложности киберугроз возрастает потребность в интеллектуальных системах, способных автоматически выявлять уязвимости, анализировать вредоносное программное обеспечение и реагировать на атаки. В настоящем обзорном исследовании представлен всесторонний анализ литературы, посвященной применению LLM в кибербезопасности (LLM4Security). На основе комплексного сбора более 40 тыс. релевантных публикаций и систематического анализа 185 статей, опубликованных на ведущих конференциях и в изданиях по безопасности и программной инженерии, мы стремимся сформировать целостное представление о том, как LLM используются для решения разнообразных задач в области кибербезопасности. Проведенный анализ позволил выявить несколько ключевых результатов. Во-первых, LLM применяются для решения все более широкого спектра задач кибербезопасности, включая обнаружение уязвимостей, анализ вредоносного программного обеспечения и выявление сетевых вторжений. Во-вторых, мы анализируем тенденции применения различных архитектур LLM, таких как модели только с кодировщиком, модели «кодировщик—декодировщик» и модели только с декодировщиком, в различных областях безопасности. В-третьих, мы выявляем все более совершенные методы адаптации LLM к задачам кибербезопасности, включая продвинутую тонкую настройку, инженеринг запросов и стратегии внешнего расширения. Значимой новой тенденцией является использование автономных агентов на основе LLM, что представляет собой переход от выполнения отдельных задач к оркестрации сложных многоэтапных рабочих процессов обеспечения безопасности. Кроме того, мы установили, что наборы данных, используемые для обучения и оценки LLM, зачастую ограничены, что подчеркивает необходимость создания более комплексных наборов данных и применения LLM для аугментации данных. Наконец, мы обсуждаем основные проблемы и возможности для будущих исследований, включая необходимость разработки более интерпретируемых моделей, устранение присущих LLM рисков безопасности и их потенциал для проактивной защиты. В целом, наш обзор предоставляет исчерпывающую...