Разбор журналов с возможностью обобщения на новые типы журналов

Log Parsing with Generalization Ability under New Log Types
Yifan Wu, Pinjia He, Siyu Yu, Zhijing Li, Ningjiang Chen, Changjian Liu
2023-11-30

Log3Tанализ логовновые типы логовпредобученный трансформерный кодировщикобучение во время тестирования
Разбор журналов, преобразующий полуструктурированные журналы в структурированные, является первым этапом автоматизированного анализа журналов. Существующие средства разбора по-прежнему неудовлетворительно работают в реальных системах из-за появления новых типов журналов во вновь генерируемых данных. На практике журналы, собранные во время работы системы, часто не содержат всех возможных типов журналов, поскольку типы, связанные с редко активируемыми состояниями системы, с малой вероятностью будут зарегистрированы, тогда как новые типы журналов регулярно появляются при обновлении системы. Кроме того, большинство существующих средств разбора требуют предварительной обработки для заблаговременного выделения переменных; однако такая обработка основывается на априорных знаниях оператора о доступных журналах и поэтому может плохо работать с новыми типами журналов. Более того, параметры средств разбора, настроенные на основе доступных журналов, трудно обобщить на новые типы журналов. Для поддержки новых типов журналов мы предлагаем стратегию имитации генерации переменных и разрабатываем новый подход к разбору журналов с возможностью обобщения, получивший название Log3T. Log3T использует предварительно обученную модель на основе трансформерного кодировщика для извлечения шаблонов журналов и обновляет свои параметры непосредственно во время разбора, адаптируясь к новым типам журналов с помощью модифицированного обучения во время тестирования. Результаты экспериментов на 16 эталонных наборах данных показывают, что Log3T превосходит современные средства разбора по точности разбора. Кроме того, Log3T может автоматически адаптироваться к новым типам журналов во вновь поступающих данных.
1
Существующие парсеры логов плохо работают с ранее невстречавшимися типами логов, поскольку журналы выполнения не охватывают редкие состояния, а обновления системы добавляют новые форматы.
2
Эксперименты на 16 эталонных наборах данных показывают, что Log3T превосходит современные парсеры по точности разбора логов.
3
Log3T применяет модифицированное обучение во время тестирования, обновляя параметры при разборе и автоматически адаптируясь к новым типам логов.
4
Log3T использует стратегию имитации генерации переменных и предварительно обученный трансформерный энкодер для извлечения шаблонов логов.
5
Предварительная обработка и параметры парсеров обычно зависят от априорных знаний о доступных логах, что ограничивает обобщение на новые типы.

полуструктурированные системные журналы, включая новые и ранее не наблюдавшиеся типы записей

обобщающая способность парсинга журналов и адаптация во время тестирования к новым типам записей, включая точное извлечение шаблонов и обработку переменных

Publication Details
Publication Date
2023-11-30
Journal
Publisher
ISSN
Cited by
14
Access Type
Author Information
Authors
Yifan Wu
Pinjia He
Siyu Yu
Zhijing Li
Ningjiang Chen
Changjian Liu
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%