Регулирование ChatGPT и других больших генеративных моделей ИИ
Regulating ChatGPT and other Large Generative AI Models
2023-06-12
SCID: 54.1/kgph5hru
Discuss with AI
регулирование ИИцепочка создания стоимости ИИмодерация контентазащита данныхмодели генеративного ИИ большого масштаба
Figures from the paper
Abstract (AI)
Большие генеративные модели ИИ (LGAIM), такие как ChatGPT, GPT-4 или Stable Diffusion, быстро меняют способы нашей коммуникации, иллюстрации и творчества. Однако регулирование ИИ в ЕС и за его пределами в значительной степени сосредоточено на традиционных моделях ИИ, а не на LGAIM. В статье эти новые генеративные модели рассматриваются в контексте текущих дискуссий о надёжном регулировании ИИ и ставится вопрос о том, как закон может быть адаптирован к их возможностям. После изложения технических основ правовая часть статьи развивается в четыре этапа, охватывая (1) прямое регулирование, (2) защиту данных, (3) модерацию контента и (4) политические предложения. Предлагается новая терминология для описания цепочки создания ценности в среде LGAIM путём различения разработчиков LGAIM, развертывающих их субъектов, профессиональных и непрофессиональных пользователей, а также получателей вывода LGAIM. Мы адаптируем регулирующие обязанности к различным акторам вдоль цепочки создания ценности и предлагаем стратегии, направленные на то, чтобы LGAIM были надёжными и использовались на благо общества в целом. Правила в AI Act и других актах прямого регулирования должны соответствовать специфике заранее обученных моделей. В статье обосновываются три уровня обязательств в отношении LGAIM: минимальные стандарты для всех LGAIM; обязательства для рисковых (high-risk) случаев использования; и сотрудничество вдоль цепочки создания ценности ИИ. В целом регулирование должно сосредоточиваться на конкретных высокорисковых приложениях, а не на самой заранее обученной модели, и включать (i) обязательства по прозрачности и (ii) управление рисками. Положения о недискриминации (iii) могут, однако, применяться к разработчикам LGAIM. Наконец, (iv) основная часть правил модерации контента в Регламенте о цифровых услугах (Digital Services Act) должна быть расширена с тем, чтобы охватывать LGAIM; это включает механизмы уведомления и действия (notice-and-action) и доверенных информаторов (trusted flaggers).
Key Findings
1
Ключевые регуляторные требования должны включать обязательства по прозрачности и управление рисками для LGAIM.
2
Существующее регулирование ИИ в первую очередь нацелено на обычные модели ИИ, а не на большие генеративные модели (LGAIMs) вроде ChatGPT, GPT-4 или Stable Diffusion.
3
Положения о недискриминации, возможно, целесообразно применять к разработчикам LGAIM.
4
Регулирование должно фокусироваться на конкретных высокорисковых приложениях, а не на самих предобученных моделях, при этом правила в AI Act должны учитывать особенности предобученных моделей.
5
Регуляторные обязанности должны быть адаптированы к разным участникам цепочки создания стоимости LGAIM, с назначением конкретных обязанностей по ролям.
6
Рамки модерации контента в Digital Services Act следует расширить на LGAIM, включая механизмы уведомления и действий и использование доверенных флаггеров.
7
В статье предлагается новая терминология для цепочки создания стоимости LGAIM, выделяющая разработчиков, развертывающих, профессиональных и непрофессиональных пользователей и получателей выводов.
8
Рекомендуются три уровня обязательств: минимальные стандарты для всех LGAIM, обязательства для высокорисковых случаев использования и совместные обязательства по всей цепочке создания стоимости.
Research Object
Крупные генеративные модели ИИ (LGAIM), такие как ChatGPT, GPT-4 и Stable Diffusion
Research Subject
Регулирующие обязанности, правовые рамки и меры управления, адаптированные к LGAIM по всей цепочке создания стоимости ИИ, включая прямое регулирование, защиту данных, модерацию контента, требования по прозрачности, управление рисками и обязательства для разработчиков/развёртывающих/пользователей
Publication Details
Publication Date
2023-06-12
Journal
Publisher
ISSN
Cited by
512
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Предварительное обучение, промптинг и предсказание: систематический обзор методов промптинга в обработке естественного языка2022
Реальное климатическое и трансформационное воздействие ИКТ: критический анализ оценок, тенденций и регулирования2021
Злонамеренное использование искусственного интеллекта: прогнозирование, предотвращение и минимизация последствий2018
Игра с искусственным интеллектом: использование искусственного интеллекта для борьбы с изменением климата — возможности, вызовы и рекомендации2021
BLOOM: многоязычная открытая языковая модель с 176 миллиардами параметров2022
Работы, цитирующие эту статью8
Генеративный искусственный интеллект2023
Обзор больших языковых моделей: приложения, проблемы, ограничения и практическое применение2023
Генеративный искусственный интеллект в управлении цепочками поставок и операциями: рамочная модель на основе возможностей для анализа и внедрения2024
Большие языковые модели: всесторонний обзор их приложений, проблем, ограничений и перспектив развития2023
Грамотность в области генеративного искусственного интеллекта: двенадцать определяющих компетенций2024
Генеративный искусственный интеллект в праве Европейского союза: ответственность, конфиденциальность, интеллектуальная собственность и кибербезопасность2024
Обучение UML с использованием большой языковой модели на основе RAG2024
Сравнительный обзор рисков безопасности в системах искусственного интеллекта: от больших языковых моделей до ИИ-агентов и воплощённых агентов2026