Поведенческая наука об агентах искусственного интеллекта

Последние достижения в области больших языковых моделей (LLM) сделали возможной разработку ИИ-агентов, демонстрирующих всё более человекоподобное поведение, включая планирование, адаптацию и социальную динамику в разнообразных, интерактивных и открытых сценариях. Это поведение является не только результатом внутренней архитектуры лежащих в их основе моделей, но и возникает благодаря их интеграции в агентные системы, функционирующие в определённых контекстах, где факторы окружающей среды, социальные сигналы и обратная связь во взаимодействии формируют поведение с течением времени. Такая эволюция требует нового научного подхода — поведенческой науки об агентах искусственного интеллекта. В отличие от подходов, сосредоточенных исключительно на внутренних механизмах, этот подход делает акцент на систематическом наблюдении за поведением, разработке интервенций для проверки гипотез и теоретически обоснованной интерпретации того, как ИИ-агенты действуют, адаптируются и взаимодействуют во времени. Мы систематизируем растущий массив исследований, охватывающих взаимодействия с участием отдельных агентов, мультиагентные взаимодействия и взаимодействия человека с агентом, а также показываем, как этот подход способствует развитию ответственного ИИ, рассматривая справедливость, безопасность, интерпретируемость, подотчётность и конфиденциальность как поведенческие свойства. Объединяя результаты недавних исследований и определяя направления дальнейшей работы, мы позиционируем поведенческую науку об агентах искусственного интеллекта как необходимое дополнение к традиционным подходам, ориентированным на модели, обеспечивающее важнейшие инструменты для понимания, оценки и регулирования поведения всё более автономных ИИ-систем в реальном мире.