Разбор журналов с возможностью обобщения на новые типы журналов
Log Parsing with Generalization Ability under New Log Types
2023-11-30
SCID: 54.1/gmrpk6c9
Discuss with AI
Log3Tанализ логовновые типы логовпредобученный трансформерный кодировщикобучение во время тестирования
Figures from the paper
Abstract (AI)
Разбор журналов, преобразующий полуструктурированные журналы в структурированные, является первым этапом автоматизированного анализа журналов. Существующие средства разбора по-прежнему неудовлетворительно работают в реальных системах из-за появления новых типов журналов во вновь генерируемых данных. На практике журналы, собранные во время работы системы, часто не содержат всех возможных типов журналов, поскольку типы, связанные с редко активируемыми состояниями системы, с малой вероятностью будут зарегистрированы, тогда как новые типы журналов регулярно появляются при обновлении системы. Кроме того, большинство существующих средств разбора требуют предварительной обработки для заблаговременного выделения переменных; однако такая обработка основывается на априорных знаниях оператора о доступных журналах и поэтому может плохо работать с новыми типами журналов. Более того, параметры средств разбора, настроенные на основе доступных журналов, трудно обобщить на новые типы журналов. Для поддержки новых типов журналов мы предлагаем стратегию имитации генерации переменных и разрабатываем новый подход к разбору журналов с возможностью обобщения, получивший название Log3T. Log3T использует предварительно обученную модель на основе трансформерного кодировщика для извлечения шаблонов журналов и обновляет свои параметры непосредственно во время разбора, адаптируясь к новым типам журналов с помощью модифицированного обучения во время тестирования. Результаты экспериментов на 16 эталонных наборах данных показывают, что Log3T превосходит современные средства разбора по точности разбора. Кроме того, Log3T может автоматически адаптироваться к новым типам журналов во вновь поступающих данных.
Key Findings
1
Существующие парсеры логов плохо работают с ранее невстречавшимися типами логов, поскольку журналы выполнения не охватывают редкие состояния, а обновления системы добавляют новые форматы.
2
Эксперименты на 16 эталонных наборах данных показывают, что Log3T превосходит современные парсеры по точности разбора логов.
3
Log3T применяет модифицированное обучение во время тестирования, обновляя параметры при разборе и автоматически адаптируясь к новым типам логов.
4
Log3T использует стратегию имитации генерации переменных и предварительно обученный трансформерный энкодер для извлечения шаблонов логов.
5
Предварительная обработка и параметры парсеров обычно зависят от априорных знаний о доступных логах, что ограничивает обобщение на новые типы.
Research Object
полуструктурированные системные журналы, включая новые и ранее не наблюдавшиеся типы записей
Research Subject
обобщающая способность парсинга журналов и адаптация во время тестирования к новым типам записей, включая точное извлечение шаблонов и обработку переменных
Publication Details
Publication Date
2023-11-30
Journal
Publisher
ISSN
Cited by
14
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest