Всесторонний обзор больших языковых моделей

A Comprehensive Overview of Large Language Models
Nick M. Barnes, Naveed Akhtar, Ajmal Saeed Mian, Saeed Anwar, Shi Qiu, Humza Naveed, Asad Ullah Khan, Muhammad Saqib, Muhammad Usman
2025-06-18

бенчмаркинг больших языковых моделейдообучениебольшие языковые моделимультимодальные большие языковые моделиобработка естественного языка
В последние годы большие языковые модели (LLM) продемонстрировали выдающиеся возможности в задачах обработки естественного языка и за их пределами. Этот успех LLM привёл к значительному увеличению числа научных работ в данном направлении. Эти исследования охватывают широкий спектр тем, включая архитектурные инновации, совершенствование стратегий обучения, увеличение длины контекста, дообучение, мультимодальные LLM, робототехнику, наборы данных, сравнительный анализ, повышение эффективности и многое другое. В условиях стремительного развития методов и регулярных прорывов в исследованиях LLM становится всё сложнее воспринимать общую картину достижений в этой области. С учётом быстро растущего объёма литературы по LLM крайне важно, чтобы научное сообщество могло пользоваться кратким, но всесторонним обзором последних разработок в данной сфере. В статье представлен обзор литературы, посвящённой широкому спектру концепций, связанных с LLM. Наш самодостаточный всесторонний обзор LLM рассматривает соответствующие базовые понятия, а также передовые темы, находящиеся на переднем крае исследований больших языковых моделей. Эта обзорная статья призвана служить не только систематическим анализом, но и быстрым, исчерпывающим справочным источником, который позволит исследователям и практикам извлекать полезные сведения из содержательных и информативных обобщений существующих работ для дальнейшего развития исследований в области LLM.
1
В обзоре систематически рассматриваются архитектуры LLM, стратегии обучения, увеличение длины контекста, дообучение, мультимодальные модели, робототехника, наборы данных, бенчмаркинг и эффективность.
2
Статья представляет самостоятельный и comprehensive обзор исследований больших языковых моделей и последних разработок в этой области.
3
Обзор объединяет базовые концепции с передовыми направлениями исследований, предоставляя краткий справочный ресурс для исследователей и практиков.
4
Работа помогает решить проблему понимания быстро расширяющейся и разнообразной литературы по LLM, систематизируя существующие исследования в информативные сводки.

Большие языковые модели (LLM)

Современные разработки и исследовательские направления, охватывающие архитектуры LLM, обучение, длину контекста, дообучение, мультимодальность, робототехнику, наборы данных, бенчмаркинг и эффективность

Publication Details
Publication Date
2025-06-18
Journal
Publisher
ISSN
Cited by
3289
Access Type
Author Information
Authors
Nick M. Barnes
Naveed Akhtar
Ajmal Saeed Mian
Saeed Anwar
Shi Qiu
Humza Naveed
Asad Ullah Khan
Muhammad Saqib
Muhammad Usman
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%