Моделирование для сжатия текста

Наиболее эффективные схемы сжатия текста используют большие модели для предсказания следующих символов. Фактические символы кодируются относительно предсказания, что обеспечивает сжатие информации. Наиболее эффективные модели строятся адаптивно, на основе уже просмотренного текста. В статье рассматриваются успешные стратегии адаптивного моделирования, пригодные для практических систем сжатия текста. Эти стратегии подразделяются на три основные класса: моделирование с конечным контекстом, при котором несколько последних символов используются для задания условного распределения вероятностей следующего символа; моделирование с конечными состояниями, при котором распределение определяется текущим состоянием и которое включает моделирование с конечным контекстом как важный частный случай; и словарное моделирование, при котором строки символов заменяются указателями на элементы динамически формируемого словаря. Также приводится сравнение различных методов на одних и тех же тестовых текстах и анализируются направления дальнейших исследований.