О модели аудита ИИ-агентов

On the AI Agents Audit Model
Dmitry Namiot, Dmitry Namiot
2026-03-23

ИИ-агентыаудит систем искусственного интеллектаформальная верификациябольшие языковые моделидоверие к искусственному интеллекту
Тема ИИ-агентов является одним из наиболее актуальных направлений развития искусственного интеллекта. Агенты предназначены для объединения генеративных моделей с традиционным программным обеспечением. В рамках такого объединения лежащие в основе генеративные модели представляют искусственный интеллект, который должен планировать решения поставленных задач, отказываясь от жестких алгоритмических моделей. Это направление развития ИИ-агентов развивается такими темпами, что даже опережает развитие больших языковых моделей. ИИ-агенты уже рассматриваются как новая парадигма программирования, способная заменить существующие парадигмы. Однако проблемы доверия к системам искусственного интеллекта — то есть, на практике, доверия к результатам работы таких систем — не решаются простой сменой парадигмы использования. Строгие формальные доказательства функциональности больших языковых моделей и, следовательно, ИИ-агентов отсутствуют. Аудит систем искусственного интеллекта представляет собой практический способ обеспечить, при отсутствии формальных доказательств, учет и реализацию всех доступных на данный момент мер по повышению доверия к функционированию системы.
1
ИИ-агенты объединяют генеративные модели с традиционным программным обеспечением и формируют потенциально новую парадигму программирования.
2
Развитие ИИ-агентов происходит быстрее, чем развитие больших языковых моделей, что повышает актуальность оценки таких систем.
3
Аудит систем искусственного интеллекта рассматривается как практический способ повысить доверие путем проверки того, что доступные меры обеспечения производительности предусмотрены и реализованы.
4
Изменение парадигмы программирования не устраняет фундаментальные проблемы доверия к надежности результатов, создаваемых ИИ.
5
Строгие формальные доказательства функциональности в настоящее время отсутствуют как для больших языковых моделей, так и, следовательно, для ИИ-агентов.

ИИ-агенты

модель аудита для оценки надёжности и функциональности ИИ-агентов при отсутствии строгих формальных доказательств

Publication Details
Publication Date
2026-03-23
Journal
Publisher
ISSN
Cited by
0
Access Type
Author Information
Authors
Dmitry Namiot
Dmitry Namiot
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%