Наука о поведении ИИ — программная статья, закладывающая основы новой области

В этой основополагающей статье предлагается рассматривать науку о поведении искусственного интеллекта (ИИ) как новую область исследований, посвящённую систематическому изучению поведения автономных ИИ-агентов, включая их режимы отказа, поведенческие закономерности и структурные меры, необходимые для обеспечения их надёжности в реальных условиях эксплуатации. В статье утверждается, что, несмотря на стремительное развитие возможностей ИИ, научное понимание поведения агентов в условиях давления не успевает за этим прогрессом, что создаёт критический пробел в таких областях, как исследования, финансы, право, медицина и разработка программного обеспечения. Определяются границы данной области, рассматриваются риски отсутствия науки о поведении ИИ-агентов и вводится слой эпистемической подотчётности агента (Agent Epistemic Accountability Layer, AEAL) как первый прототип фреймворков, которые призвана создавать эта область.