Обзор безопасности и конфиденциальности больших языковых моделей (LLM): Хорошее, Плохое и Уродливое

Большие языковые модели (LLM), такие как ChatGPT и Bard, произвели революцию в понимании и генерации естественного языка. Они обладают глубоким пониманием языка, способностью генерировать текст, близкий к человеческому, контекстной осведомлённостью и устойчивыми навыками решения задач, что делает их ценными в различных областях (например, поисковые системы, поддержка клиентов, перевод). В то же время LLM привлекают внимание в сообществе информационной безопасности, выявляя уязвимости и демонстрируя потенциал в задачах, связанных с безопасностью. В данной статье исследуется пересечение LLM с безопасностью и конфиденциальностью. В частности, мы анализируем, как LLM положительно влияют на безопасность и конфиденциальность, какие потенциальные риски и угрозы связаны с их использованием, а также внутренние уязвимости самих LLM. На основе всестороннего обзора литературы работы классифицируются как «Хорошее» (полезные приложения LLM), «Плохое» (офенсивные применения) и «Уродливое» (уязвимости LLM и их защиты). Мы приводим несколько важных результатов. Например, показано, что LLM улучшают безопасность кода (обнаружение уязвимостей в коде) и защиту данных (обеспечение конфиденциальности данных), в некоторых случаях превосходя традиционные методы. Однако LLM также могут использоваться для различных атак (особенно на уровне пользователей) вследствие их способности к рассуждению, похожему на человеческое. Мы выделяем области, требующие дальнейших исследований: например, исследования атак на извлечение моделей и параметров ограничены и часто носят теоретический характер из-за масштаба параметров LLM и конфиденциальности; безопасная настройка инструкций (safe instruction tuning), как относительно новое направление, требует дополнительного изучения. Мы надеемся, что наша работа прояснит, как LLM могут как укреплять, так и ставить под угрозу кибербезопасность.