Исследование внедрения сервисов генеративного ИИ с использованием архитектуры приложений LLM на основе корпоративных данных

A Study on the Implementation of Generative AI Services Using an Enterprise Data-Based LLM Application Architecture
C. Jeong
2023-01-01

Retrieval-Augmented Generation (RAG)прямая интеграция документовархитектура приложений LLM на основе корпоративных данныхдообучение (fine-tuning)хранение и поиск информации
В данном исследовании представлен метод реализации сервисов генеративного искусственного интеллекта с использованием архитектуры приложений больших языковых моделей (LLM). В связи с недавними успехами в области генеративного ИИ LLM приобрели важное значение в различных областях. В этом контексте работа решает проблему дефицита информации и предлагает конкретные меры с использованием возможностей LLM. Исследование рассматривает стратегии смягчения последствий недостаточности данных и предлагает адаптированные решения. Анализируется эффективность применения методов дообучения (fine-tuning) и прямой интеграции документов для преодоления нехватки данных. Существенным вкладом данной работы является разработка модели Retrieval-Augmented Generation (RAG), направленной на решение перечисленных проблем. Модель RAG спроектирована для улучшения процессов хранения и извлечения информации, обеспечивая более качественную генерацию контента. В работе изложены ключевые этапы методологии хранения и извлечения информации, поддерживаемой моделью RAG, и проведён всесторонний анализ этих шагов с акцентом на их значимость в преодолении дефицита данных. Исследование демонстрирует эффективность предложенного метода и иллюстрирует его применимость на примерах. Внедрение модели RAG для хранения и извлечения информации способствует более глубокому пониманию технологий генеративного ИИ и облегчает их практическое использование в компаниях, использующих LLM, предоставляя рекомендации по улучшению генерации контента на основе данных и поощряя активное применение сервисов на базе LLM в корпоративной среде.
1
Показана практическая применимость предложенного подхода на основе RAG в корпоративной среде с помощью иллюстративных примеров.
2
Описаны ключевые фазы методологии хранения и поиска информации в рамках модели RAG и проанализирована их роль в преодолении нехватки данных.
3
Разработана модель Retrieval-Augmented Generation (RAG), специально предназначенная для улучшения хранения информации, поиска и генерации контента.
4
Определены и оценены дообучение (fine-tuning) и прямая интеграция документов как стратегии уменьшения недостатка данных для сервисов на LLM.
5
Предложен метод реализации генеративных AI-сервисов на основе корпоративной архитектуры приложений LLM, решающий проблему нехватки информации.

Архитектура LLM-приложения на основе корпоративных данных (включая модель Retrieval-Augmented Generation для хранения и извлечения информации)

Реализация и эффективность генеративных AI-сервисов с использованием архитектуры LLM на основе корпоративных данных, в частности решение проблемы недостатка данных посредством дообучения, прямой интеграции документов и разработанного RAG-процесса хранения и извлечения информации для улучшения генерации контента

Publication Details
Publication Date
2023-01-01
Journal
Publisher
ISSN
Cited by
89
Access Type
Author Information
Authors
C. Jeong
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%