SafeRAG: Бенчмаркинг безопасности в системах генерации с дополненной поиском для больших языковых моделей

SafeRAG: Benchmarking Security in Retrieval-Augmented Generation of Large Language Model
Feiyu Xiong, Xun Liang, Hanyu Wang, Zhaoxin Fan, Mengwei Wang, Simin Niu, Bo Tang, Zhiyu Li, Sensen Zhang, Jihao Zhao, Jiawei Yang, Shichao Song
2025-01-01

SafeRAGбольшие языковые моделигенерация с дополнением поискабенчмаркинг безопасности
Xun Liang, Simin Niu, Zhiyu Li, Sensen Zhang, Hanyu Wang, Feiyu Xiong, Zhaoxin Fan, Bo Tang, Jihao Zhao, Jiawei Yang, Shichao Song, Mengwei Wang. Материалы 63-го ежегодного собрания Ассоциации компьютерной лингвистики (том 1: расширенные статьи). 2025.
1
SafeRAG направлен на систематическую оценку уязвимостей, возникающих из-за извлекаемой информации и её взаимодействия с генерацией языковой модели.
2
Бенчмарк служит основой для сравнения безопасности различных RAG-систем, однако предоставленный абстракт не содержит количественных результатов или конкретных категорий атак.
3
В работе представлен SafeRAG — бенчмарк для оценки рисков безопасности в системах генерации с дополнением извлечённой информацией для больших языковых моделей.

системы генерации с дополнением извлечённой информацией на основе больших языковых моделей

уязвимости системы безопасности и устойчивость систем генерации с дополнением извлечённой информацией к атакам противника

Publication Details
Publication Date
2025-01-01
Journal
Publisher
ISSN
Cited by
74
Access Type
Author Information
Authors
Feiyu Xiong
Xun Liang
Hanyu Wang
Zhaoxin Fan
Mengwei Wang
Simin Niu
Bo Tang
Zhiyu Li
Sensen Zhang
Jihao Zhao
Jiawei Yang
Shichao Song
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%