Управление взаимодействием человека и искусственного интеллекта (HAIG): подход на основе доверия и полезности

По мере того как системы искусственного интеллекта становятся всё более автономными и начинают выполнять функции надзора за другими системами ИИ, традиционные модели управления стремительно утрачивают эффективность. В статье вводится понятие неделегируемого ядра — функций управления, которые должны оставаться в сфере человеческих полномочий не потому, что ИИ не обладает необходимыми техническими возможностями, а потому, что этого требует демократическая легитимность. Мы выявляем парадокс подотчётности и возможностей, при котором сам успех систем ИИ в превышении человеческих возможностей подрывает нашу способность осуществлять над ними содержательный надзор, и предлагаем концептуальную рамку управления взаимодействием человека и ИИ (Human-AI Governance, HAIG) — многомерную модель, переосмысливающую надзор по трём осям: полномочия по принятию решений, автономность процессов и конфигурация подотчётности. Вместо того чтобы по умолчанию выстраивать рекурсивные иерархии «ИИ контролирует ИИ», размывающие ответственность и создающие предпосылки для отказов, HAIG устанавливает адаптивные пороги доверия, обеспечивающие понятность для человека и контроль в наиболее значимых областях. Мы демонстрируем сценарии упреждающего, гибкого управления, учитывающего интересы заинтересованных сторон и реализуемого с помощью HAIG, в таких критически важных сферах, как медицинская сортировка, автономные транспортные средства и модерация контента. В заключение предлагаются рекомендации в области политики и институциональные инновации, включая суды по аудиту ИИ и алгоритмические жюри, которые поддерживают гибридные системы управления, способные сохранять демократическую легитимность в эпоху агентного ИИ.