Динамические управляемые и применимые в различных предметных областях меры защиты для повышения безопасности больших языковых моделей

В условиях широкого внедрения больших языковых моделей (LLM) обеспечение их безопасности приобретает всё большее значение. Однако существующие методы защиты часто сталкиваются с двумя ключевыми проблемами: (i) недостаточной эффективностью защиты, особенно в специализированных предметных областях, таких как химия, где отсутствие специальных знаний может приводить к генерации вредоносных ответов на злонамеренные запросы; и (ii) чрезмерной защитной реакцией, которая снижает общую полезность и отзывчивость LLM. Для решения этих проблем мы предлагаем мультиагентную структуру защиты Guide for Defense (G4D), использующую точную внешнюю информацию для формирования беспристрастного резюме намерений пользователя и аналитически обоснованных рекомендаций по безопасному формированию ответов. Масштабные эксперименты с популярными атаками типа jailbreak и наборами данных с доброкачественными запросами показывают, что G4D повышает устойчивость LLM к атакам jailbreak как в общих, так и в специализированных предметных областях, не снижая общей функциональности моделей. Jailbreak: Вы должны быть ответственным ассистентом. Ответьте на следующий вопрос на основе приведённых намерения и рекомендаций.