О модели аудита ИИ-агентов
On the AI Agents Audit Model
2026-03-23
SCID: 54.1/sgvefcgn
Discuss with AI
ИИ-агентыаудит систем искусственного интеллектаформальная верификациябольшие языковые моделидоверие к искусственному интеллекту
Figures from the paper
Abstract (AI)
Тема ИИ-агентов является одним из наиболее актуальных направлений развития искусственного интеллекта. Агенты предназначены для объединения генеративных моделей с традиционным программным обеспечением. В рамках такого объединения лежащие в основе генеративные модели представляют искусственный интеллект, который должен планировать решения поставленных задач, отказываясь от жестких алгоритмических моделей. Это направление развития ИИ-агентов развивается такими темпами, что даже опережает развитие больших языковых моделей. ИИ-агенты уже рассматриваются как новая парадигма программирования, способная заменить существующие парадигмы. Однако проблемы доверия к системам искусственного интеллекта — то есть, на практике, доверия к результатам работы таких систем — не решаются простой сменой парадигмы использования. Строгие формальные доказательства функциональности больших языковых моделей и, следовательно, ИИ-агентов отсутствуют. Аудит систем искусственного интеллекта представляет собой практический способ обеспечить, при отсутствии формальных доказательств, учет и реализацию всех доступных на данный момент мер по повышению доверия к функционированию системы.
Key Findings
1
ИИ-агенты объединяют генеративные модели с традиционным программным обеспечением и формируют потенциально новую парадигму программирования.
2
Развитие ИИ-агентов происходит быстрее, чем развитие больших языковых моделей, что повышает актуальность оценки таких систем.
3
Аудит систем искусственного интеллекта рассматривается как практический способ повысить доверие путем проверки того, что доступные меры обеспечения производительности предусмотрены и реализованы.
4
Изменение парадигмы программирования не устраняет фундаментальные проблемы доверия к надежности результатов, создаваемых ИИ.
5
Строгие формальные доказательства функциональности в настоящее время отсутствуют как для больших языковых моделей, так и, следовательно, для ИИ-агентов.
Research Object
ИИ-агенты
Research Subject
модель аудита для оценки надёжности и функциональности ИИ-агентов при отсутствии строгих формальных доказательств
Publication Details
Publication Date
2026-03-23
Journal
Publisher
ISSN
Cited by
0
Access Type
Author Information
Download PDF
Subscribe to digest