SafeRAG: Бенчмаркинг безопасности в системах генерации с дополненной поиском для больших языковых моделей
SafeRAG: Benchmarking Security in Retrieval-Augmented Generation of Large Language Model
2025-01-01
SCID: 54.1/p4nq6xhu
Discuss with AI
SafeRAGбольшие языковые моделигенерация с дополнением поискабенчмаркинг безопасности
Figures from the paper
Abstract (AI)
Xun Liang, Simin Niu, Zhiyu Li, Sensen Zhang, Hanyu Wang, Feiyu Xiong, Zhaoxin Fan, Bo Tang, Jihao Zhao, Jiawei Yang, Shichao Song, Mengwei Wang. Материалы 63-го ежегодного собрания Ассоциации компьютерной лингвистики (том 1: расширенные статьи). 2025.
Key Findings
1
SafeRAG направлен на систематическую оценку уязвимостей, возникающих из-за извлекаемой информации и её взаимодействия с генерацией языковой модели.
2
Бенчмарк служит основой для сравнения безопасности различных RAG-систем, однако предоставленный абстракт не содержит количественных результатов или конкретных категорий атак.
3
В работе представлен SafeRAG — бенчмарк для оценки рисков безопасности в системах генерации с дополнением извлечённой информацией для больших языковых моделей.
Research Object
системы генерации с дополнением извлечённой информацией на основе больших языковых моделей
Research Subject
уязвимости системы безопасности и устойчивость систем генерации с дополнением извлечённой информацией к атакам противника
Publication Details
Publication Date
2025-01-01
Journal
Publisher
ISSN
Cited by
74
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Технический отчет о GPT-42023
Обзор взаимодействия RAG и LLM: к большим языковым моделям с дополнением извлечённой информацией2024
Сравнительный анализ больших языковых моделей в генерации с дополнением извлечённой информацией2024
PoisonedRAG: атаки порчи знаний на генерацию с использованием извлечения для больших языковых моделей2024