LLM-Commentator: Новые стратегии дообучения больших языковых моделей для автоматической генерации комментариев с использованием данных о событиях футбольных матчей

Комментирование футбольных матчей в режиме реального времени представляет собой сложную задачу, требующую точного и связного описания событий по мере их развития. Традиционные методы часто не обеспечивают своевременного и точного освещения происходящего на поле. В настоящем исследовании рассматривается применение инновационных методов на основе больших языковых моделей (LLM) для разработки эффективной языковой модели, получившей название LLM-Commentator и способной генерировать комментарии к футбольным матчам в режиме, близком к реальному времени. Цель состоит в том, чтобы продемонстрировать, что модели с открытым исходным кодом, дообученные на специализированных предметных данных с использованием потребительского оборудования, могут точно описывать футбольные события на основе исходных данных о матче. Для дообучения языковых моделей применяются три различные стратегии обучения, учитывающие различные проблемы, возникающие при генерации комментариев к футбольным матчам в реальном времени. Эффективность моделей оценивается по их способности создавать связные и точные описания ранее не встречавшихся футбольных событий. Среди трех предложенных стратегий особенно эффективной в обучении и обработке сложных рабочих нагрузок оказывается модель Mixed Immediately. Это указывает на перспективность одновременного многозадачного обучения компактных языковых моделей с открытым исходным кодом для комментирования спортивных событий в режиме реального времени. Кроме того, исследование демонстрирует практическую возможность дообучения языковых моделей со специализированными знаниями на потребительском оборудовании. Полученные результаты подчеркивают важность адаптации подходов к обучению и формирования хорошо сбалансированных наборов данных при дообучении языковых моделей для конкретных задач. Наконец, они служат практическим руководством по расширению доступности больших языковых моделей и вносят значительный вклад в применение обработки естественного языка (NLP) в спортивной журналистике, обеспечивая создание более содержательных и увлекательных комментариев к футбольным матчам в режиме реального времени.