Генеративный искусственный интеллект и большие языковые модели для защиты критической инфраструктуры: оценочные бенчмарки, агентный искусственный интеллект, проблемы и возможности
Generative AI and LLMs for Critical Infrastructure Protection: Evaluation Benchmarks, Agentic AI, Challenges, and Opportunities
2025-03-07
SCID: 54.1/c4cd95mu
Discuss with AI
Агентный искусственный интеллектЗащита критической инфраструктурыБенчмарки кибербезопасностиГенеративный искусственный интеллектБольшие языковые модели
Figures from the paper
Abstract (AI)
Критически важные национальные инфраструктуры (Critical National Infrastructures, CNIs), включая энергетические сети, системы водоснабжения, транспортные сети и коммуникационные системы, имеют ключевое значение для современного общества, однако сталкиваются с растущими угрозами кибербезопасности. В настоящем обзорном исследовании проведен всесторонний анализ подходов к защите критической инфраструктуры (Critical Infrastructure Protection, CIP), основанных на искусственном интеллекте. Сначала рассматривается надежность CNIs и представлены общепринятые бенчмарки для оценки больших языковых моделей (Large Language Models, LLMs) в контексте кибербезопасности. Далее анализируются основные проблемы кибербезопасности с акцентом на доверие, конфиденциальность, устойчивость и защищенность этих жизненно важных систем. На этой основе оценивается роль генеративного искусственного интеллекта и LLMs в повышении эффективности CIP, а также рассматриваются возможности применения агентного искусственного интеллекта для реализации механизмов проактивной защиты. Наконец, сформулированы перспективные направления, призванные содействовать интеграции передовых методов искусственного интеллекта в задачи защиты критической инфраструктуры. Статья предлагает стратегическую дорожную карту для исследователей и практиков, занимающихся укреплением национальной инфраструктуры перед лицом возникающих киберугроз, посредством синтеза современных проблем, стратегий бенчмаркинга и инновационных применений искусственного интеллекта.
Key Findings
1
Генеративный ИИ и большие языковые модели рассматриваются как инструменты повышения уровня защиты инфраструктуры, а агентный ИИ — как средство реализации проактивной обороны.
2
Рассмотрены существующие бенчмарки для оценки больших языковых моделей в контексте кибербезопасности и их значение для защиты критической инфраструктуры.
3
Доверие, конфиденциальность, устойчивость и защищённость определены как ключевые требования к применению ИИ в критически важных инфраструктурах.
4
Обзор предлагает стратегическую дорожную карту, объединяющую актуальные проблемы, стратегии бенчмаркинга и перспективные применения ИИ для будущих исследований и практики защиты критической инфраструктуры.
5
В обзоре систематизированы подходы на основе ИИ для защиты критически важных национальных инфраструктур, включая энергетику, водоснабжение, транспорт и коммуникационные системы.
Research Object
критически важная национальная инфраструктура (CNI), включая энергосети, системы водоснабжения, транспортные сети и коммуникационные системы
Research Subject
киберзащита критически важной инфраструктуры на основе ИИ, включая надёжность, доверие, конфиденциальность, устойчивость, защищённость и проактивную оборону
Publication Details
Publication Date
2025-03-07
Journal
Publisher
ISSN
Cited by
68
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai10
Исследование пределов трансферного обучения с помощью унифицированного преобразователя текста в текст2019
Генерация с дополнением извлечённой информацией для больших языковых моделей: обзор2023
Обзор методов оценки больших языковых моделей2024
Интеллект, компилируемый через аффордансы: наблюдаемое сопоставление когнитивных импедансов для LLM-интегрированных систем без мета-доступа2020
Обучение языковых моделей следованию инструкциям с использованием обратной связи от человека2022
Обзор автономных агентов на основе больших языковых моделей2024
Последние достижения в области обработки естественного языка с использованием крупномасштабных предварительно обученных языковых моделей: обзор2023
От ChatGPT к ThreatGPT: влияние генеративного искусственного интеллекта на кибербезопасность и конфиденциальность2023
Объяснимость больших языковых моделей: обзор2024
Обзор мультиагентных систем на основе больших языковых моделей: рабочий процесс, инфраструктура и проблемы2024