GENXAI: система ответственного управления ИИ для генеративных моделей в регулируемых отраслях
GENXAI A RESPONSIBLE AI GOVERNANCE FRAMEWORK FOR GENERATIVE MODELS IN REGULATED INDUSTRIES
2026-02-09
SCID: 54.1/awqpk64s
Discuss with AI
происхождение данныхгенеративные моделивалидация с участием человекарегулируемые отраслиответственное управление ИИ
Figures from the paper
Abstract (AI)
Быстрое внедрение генеративного искусственного интеллекта (ИИ) в регулируемых отраслях, обусловленное широким освещением в средствах массовой информации, также выявило значительные недостатки и пробелы в системах и процессах управления, контроля и аудита его использования. Классические генеративные модели представляют собой хорошо известный класс моделей машинного обучения, который, тем не менее, обладает двумя необычными свойствами: поведение выходных данных определяется вероятностями, а содержание, генерируемое моделью, как правило, трудно интерпретировать. Мы представляем GENXAI — систему управления ответственным ИИ на протяжении жизненного цикла разработки, внедрения и эксплуатации генеративных моделей в регулируемых отраслях. GENXAI использует модель управления жизненным циклом, чтобы встроить соблюдение нормативных требований, снижение этических рисков и объяснимость в рабочие процессы генеративных систем. Это достигается за счет объединения управления на основе происхождения данных, прозрачности моделей, валидации с участием человека, итеративного мониторинга и формирования аудируемых документов на основе аудита для поддержания постоянного соответствия требованиям. Одним из наиболее значимых вкладов данной работы является централизованная модель управления, которая сопоставляет абстрактные нормативные и этические принципы с техническими и организационными предписаниями. GENXAI оценивается посредством аналитических сравнений и предметно-ориентированных примеров применения в здравоохранении, финансовых услугах и правовых системах.
Key Findings
1
GENXAI объединяет управление на основе происхождения данных, прозрачность моделей, проверку человеком, итеративный мониторинг и создание документов для аудита и подтверждения соответствия.
2
GENXAI представляет жизненный цикл управления ответственным ИИ для разработки, внедрения и эксплуатации генеративных моделей в регулируемых отраслях.
3
Централизованная модель управления переводит абстрактные регуляторные и этические принципы в конкретные технические и организационные требования.
4
Фреймворк встраивает соблюдение нормативных требований, снижение этических рисков и объяснимость непосредственно в рабочие процессы генеративного ИИ.
5
Фреймворк оценивается с помощью аналитических сравнений и отраслевых сценариев в здравоохранении, финансовых услугах и юридических системах.
Research Object
Модели генеративного ИИ, а также их разработка, внедрение и эксплуатация в регулируемых отраслях
Research Subject
Жизненный цикл управления генеративным ИИ с акцентом на соблюдение требований, снижение этических рисков, объяснимость, прозрачность, проверку человеком, мониторинг и возможность аудита
Publication Details
Publication Date
2026-02-09
Journal
Publisher
ISSN
Cited by
1
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest