Сравнительный обзор рисков безопасности в системах искусственного интеллекта: от больших языковых моделей до ИИ-агентов и воплощённых агентов

Стремительное развитие искусственного интеллекта в различных отраслях сопровождается острыми рисками для безопасности и конфиденциальности. В работе представлен унифицированный сравнительный анализ больших языковых моделей (LLM), ИИ-агентов и воплощённых агентов, предложена таксономия рисков, охватывающая данные, модели, системы, контент и приложения, а также каталог из 24 конкретных угроз. Сопоставлены поверхности атак и методы атак для трёх типов систем, что позволило выявить общие закономерности и характерные уязвимости. Кроме того, рассмотрены основные фреймворки оценки безопасности ИИ и оценено, насколько действующие соответствующие законы и нормативные акты учитывают эти риски. Наконец, сформулированы конкретные направления дальнейших исследований и практической деятельности, ориентированные на создание устойчивых и безопасных экосистем агентов.