Этические аспекты ИИ-агентов и агентного ИИ

Последние достижения в области искусственного интеллекта (ИИ) привели к появлению ИИ-агентов и агентного ИИ. Эти системы способны не только выполнять узко определённые задачи, но и осуществлять более сложные виды деятельности при минимальном или полном отсутствии участия человека. Хотя технические исследования таких систем уже проводятся, их этической оценке до сих пор уделялось мало внимания. В статье представлен первоначальный взгляд на то, как последние достижения в области ИИ-агентов и агентного ИИ соотносятся с классическими этическими принципами в контексте ИИ; особое внимание уделено прозрачности, справедливости и беспристрастности, принципу непричинения вреда, ответственности и подотчётности, а также конфиденциальности. Для обеспечения ответственной разработки и внедрения этих систем мы выделяем три особенно важных аспекта: (1) их широкую агентность, которая (2) оказывает более существенное влияние на автономию человека, что приводит к (3) ещё более глубокой взаимосвязи между человеком и технологией по сравнению с традиционными системами ИИ. Наш анализ, основанный на методе широкого рефлексивного равновесия, служит отправной точкой для этического осмысления и подчёркивает настоятельную необходимость постоянного междисциплинарного взаимодействия, чтобы обеспечить ответственную разработку и использование этих новых систем ИИ.