Раскрытие потенциала инженерии промптов для больших языковых моделей

В этом обзоре рассматривается роль инженерии промптов в раскрытии возможностей больших языковых моделей (LLM). Инженерия промптов представляет собой процесс структурирования входных данных и стала важнейшим методом повышения полезности и точности этих моделей. В статье рассматриваются как базовые, так и передовые методологии инженерии промптов, включая такие методы, как самосогласованность, рассуждение по цепочке мыслей и генерация знаний, которые могут значительно повысить производительность моделей. Кроме того, подробно анализируются методы промптинга для зрительно-языковых моделей (VLM). Методы промптинга оцениваются с использованием субъективных и объективных метрик, что обеспечивает всесторонний анализ их эффективности. Важное место в этом обсуждении занимает роль инженерии промптов в обеспечении безопасности искусственного интеллекта (ИИ), особенно в защите от состязательных атак, использующих уязвимости LLM. Подробно рассматриваются стратегии минимизации этих рисков и повышения устойчивости моделей. Наконец, представлены перспективы будущих исследований и применений.