Предвзятость предварительно обученных языковых моделей: эмпирическое исследование анализа тональности и выявления эмоций на основе промптов

Благодаря прорыву в области технологий крупномасштабных предварительно обученных языковых моделей (PLM) всё большее внимание привлекают задачи классификации на основе промптов, например анализ тональности и выявление эмоций. Такие задачи формализуются как задачи предсказания замаскированных слов, что соответствует целям предварительного обучения большинства языковых моделей. Поэтому PLM можно использовать для вывода замаскированных слов в последующей прикладной задаче, а затем получать предсказания меток с помощью шаблонов отображения меток на слова, заданных вручную. Вычисление аффективных характеристик на основе промптов использует преимущества как моделирования нейронными сетями, так и интерпретируемых символических представлений. Однако механизмы PLM и классификации на основе промптов по-прежнему связаны с множеством неясных вопросов. Мы проводим систематическое эмпирическое исследование анализа тональности и выявления эмоций на основе промптов, чтобы изучить предвзятость PLM в задачах вычисления аффективных характеристик. Мы обнаруживаем, что PLM демонстрируют предвзятость в задачах анализа тональности и выявления эмоций, связанную с количеством классов меток, выбором слов-меток для эмоций, шаблонами и позициями промптов, а также формами слов в лексиконах эмоций.