Раскрытие потенциала инженерии промптов для больших языковых моделей
Unleashing the potential of prompt engineering for large language models
2025-05-08
SCID: 54.1/7xb96ccu
Discuss with AI
рассуждение по цепочке мыслейбольшие языковые модели (LLM)промпт-инжинирингсамосогласованностьмультимодальные модели зрения и языка (VLM)
Figures from the paper
Abstract (AI)
В этом обзоре рассматривается роль инженерии промптов в раскрытии возможностей больших языковых моделей (LLM). Инженерия промптов представляет собой процесс структурирования входных данных и стала важнейшим методом повышения полезности и точности этих моделей. В статье рассматриваются как базовые, так и передовые методологии инженерии промптов, включая такие методы, как самосогласованность, рассуждение по цепочке мыслей и генерация знаний, которые могут значительно повысить производительность моделей. Кроме того, подробно анализируются методы промптинга для зрительно-языковых моделей (VLM). Методы промптинга оцениваются с использованием субъективных и объективных метрик, что обеспечивает всесторонний анализ их эффективности. Важное место в этом обсуждении занимает роль инженерии промптов в обеспечении безопасности искусственного интеллекта (ИИ), особенно в защите от состязательных атак, использующих уязвимости LLM. Подробно рассматриваются стратегии минимизации этих рисков и повышения устойчивости моделей. Наконец, представлены перспективы будущих исследований и применений.
Key Findings
1
Продвинутые методы, включая само-согласованность, рассуждение по цепочке мыслей и генерируемые знания, могут значительно улучшать производительность LLM.
2
Промпт-инжиниринг способствует безопасности ИИ, помогая противодействовать состязательным атакам и повышать устойчивость моделей.
3
Промпт-инжиниринг структурирует входные данные для повышения полезности и точности больших языковых моделей.
4
Методы промптинга оцениваются с использованием как субъективных, так и объективных метрик для надежного анализа их эффективности.
5
В обзоре рассматриваются методы промптинга для мультимодальных моделей «видение–язык» наряду с текстовыми LLM.
Research Object
большие языковые модели (LLM), включая визуально-языковые модели (VLM)
Research Subject
эффективность, повышение производительности и устойчивость к угрозам безопасности методов разработки промптов
Publication Details
Publication Date
2025-05-08
Journal
Publisher
ISSN
Cited by
1098
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai20
ImageNet: крупномасштабная иерархическая база изображений2009
Исследование пределов трансферного обучения с помощью унифицированного преобразователя текста в текст2019
Труды 24-й Международной конференции по машинному обучению2007
Рекурсивные глубокие модели для семантической композицией по дереву тональности2013
Обзор методов оценки больших языковых моделей2024
Предварительное обучение, промптинг и предсказание: систематический обзор методов промптинга в обработке естественного языка2022
Обзор автономных агентов на основе больших языковых моделей2024
ConceptNet 5.5: открытый многоязычный граф общих знаний2017
PaLM: Масштабирование языкового моделирования с помощью Pathways2022
Технический отчет о GPT-42023
Объяснимость искусственного интеллекта в здравоохранении: междисциплинарная перспектива2020
Использование поиска фрагментов текста с генеративными моделями для ответов на вопросы в открытом домене2021
Материалы конференции 2021 года по эмпирическим методам обработки естественного языка2021
Искры искусственного общего интеллекта: ранние эксперименты с GPT-42023
Обзор безопасности и конфиденциальности больших языковых моделей (LLM): хорошее, плохое и ужасное2024
Генерация с активным дополнением посредством поиска2023
За пределами игры в имитацию: количественная оценка и экстраполяция возможностей языковых моделей2022
Атаки с внедрением промптов на приложения, интегрированные с большими языковыми моделями2023
Анализ тональности в эпоху больших языковых моделей: проверка реальностью2024
Каталог шаблонов промптов для совершенствования инженерии промптов с помощью ChatGPT2023