Большие языковые модели: всесторонний обзор их приложений, проблем, ограничений и перспектив развития

Large Language Models: A Comprehensive Survey of its Applications, Challenges, Limitations, and Future Prospects
Seyedali Mirjalili, Mubarak Shah, Amgad Muneer, Rizwan Qureshi, Muhammad Usman Hadi, Syed Zohaib Hassan, Maged Shoman, Jia Wu, Abbas Shah, Qasem Al-Tashi, Naveed Akhtar, Muhammad Bilal Shaikh, Muhammad Irfan, Anas Zafar, qasem al tashi, Syed Zohaib Hassan, Maged Shoman
2023-11-15

генеративно предварительно обученные трансформерыбольшие языковые моделимашинный переводсмещение моделейобработка естественного языка
В обширной области компьютерной обработки языка появился новый революционный класс систем — большие языковые модели (LLM), демонстрирующие впечатляющую способность понимать сложные языковые закономерности и генерировать связные, контекстуально уместные ответы. Большие языковые модели (LLM) представляют собой разновидность искусственного интеллекта (ИИ), ставшую мощным инструментом для решения широкого спектра задач, включая обработку естественного языка (NLP), машинный перевод и ответы на вопросы. В данном обзорном исследовании представлен всесторонний анализ LLM, включая их историю, архитектуру, методы обучения, области применения и проблемы. Сначала рассматриваются фундаментальные концепции генеративного искусственного интеллекта и архитектура генеративных предварительно обученных трансформеров (GPT). Затем приводится обзор истории LLM, их эволюции и различных методов, применявшихся для их обучения. Далее рассматривается широкий спектр применений LLM в медицине, образовании, финансах и инженерии. Также обсуждается, как LLM формируют будущее ИИ и каким образом могут использоваться для решения практических задач. Затем анализируются проблемы, связанные с внедрением LLM в реальных сценариях, включая этические аспекты, смещения моделей, интерпретируемость и требования к вычислительным ресурсам. Кроме того, освещаются методы повышения устойчивости и управляемости LLM, а также способы решения проблем смещения, справедливости и качества генерации. В заключение обозначаются перспективы исследований LLM и проблемы, которые необходимо решить, чтобы сделать эти модели более надёжными и полезными. Этот обзор предназначен для предоставления исследователям, практикам и энтузиастам целостного понимания LLM, их эволюции, приложений и проблем. Обобщая современные знания в данной области, обзор служит ценным ресурсом для дальнейшего развития направления...
1
LLM обладают широким потенциалом применения в медицине, образовании, финансах и инженерии, включая решение практических задач.
2
Большие языковые модели стали мощными универсальными инструментами ИИ для обработки естественного языка, машинного перевода и ответов на вопросы.
3
Практическое внедрение LLM ограничивается этическими проблемами, смещённостью моделей, низкой интерпретируемостью, вычислительными требованиями и проблемами качества генерации.
4
Повышение робастности и управляемости, снижение смещённости, обеспечение справедливости и улучшение качества генерации обозначены как важные направления для повышения надёжности и полезности LLM.
5
В обзоре систематизированы история LLM, архитектуры на основе GPT, их эволюция и методы обучения, что обеспечивает целостное представление об области.

большие языковые модели (LLM)

их архитектуры, методы обучения, применения, проблемы развёртывания, ограничения, устойчивость, управляемость, смещение, справедливость, интерпретируемость и качество генерации

Publication Details
Publication Date
2023-11-15
Journal
Publisher
ISSN
Cited by
193
Access Type
Author Information
Authors
Seyedali Mirjalili
Mubarak Shah
Amgad Muneer
Rizwan Qureshi
Muhammad Usman Hadi
Syed Zohaib Hassan
Maged Shoman
Jia Wu
Abbas Shah
Qasem Al-Tashi
Naveed Akhtar
Muhammad Bilal Shaikh
Muhammad Irfan
Anas Zafar
qasem al tashi
Syed Zohaib Hassan
Maged Shoman
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%