Социальная инженерия на основе искусственного интеллекта: новые векторы атак, уязвимости и многоуровневые стратегии защиты

За последнее десятилетие было зарегистрировано растущее число кибератак, обеспечивающих беспрецедентные уровни персонализации, автоматизации и обмана. Например, согласно недавним отраслевым исследованиям, в течение одного месяца 2023 года наблюдался резкий рост числа уникальных атак социальной инженерии, совпавший с публичным выпуском ChatGPT-3.5. Эта тенденция свидетельствует о том, что фишинговые кампании на основе искусственного интеллекта (ИИ) стали существенной угрозой для цифровых экосистем. В настоящем исследовании представлен интегративный анализ того, как генеративные технологии и технологии дипфейков преобразовали ландшафт атак социальной инженерии (СИ); систематизированы основные стратегии атак и рассмотрены их психологические, технологические и этические последствия. Помимо обзора обеспечивающих технологий, в исследовании проводится сравнительный анализ концептуальных основ и аналитических моделей с технической, эмпирической и количественной точек зрения, описывающих операции СИ на основе ИИ и защитные контрмеры против них. Сопоставление этих подходов выявляет три ключевые возможности — реалистичность, персонализацию и автоматизацию, — которые систематически повышают эффективность атак. На основе полученных результатов предлагается Унифицированная модель социальной инженерии на основе ИИ (UM-AISE) — концептуальная основа, интегрирующая эти измерения на протяжении жизненного цикла атаки и использующая теоретический анализ марковского процесса принятия решений (MDP). Эта формализация демонстрирует, каким образом указанные возможности могут изменять оптимальную стратегию злоумышленника, предлагая формальную экономическую перспективу, отличную от эмпирической валидации. Наконец, в исследовании обсуждаются возникающие этические и регуляторные проблемы, связанные с обманом, опосредованным ИИ, с акцентом на риски непрозрачности, отсутствия подотчётности и манипуляций в масштабах общества. В совокупности эти элементы способствуют формированию развивающихся подходов к обнаружению, защите и регулированию, имеющих значение для исследователей, разработчиков политики и практиков.