Автономный искусственный интеллект, научные исследования и человеческие ценности

На начальном этапе внедрения искусственного интеллекта (ИИ) в научные исследования системы ИИ преимущественно функционировали как инструменты, находящиеся под непосредственным наблюдением и контролем человека. Однако внедрение ИИ в научные исследования в настоящее время вступает в этап, на котором ИИ-агенты выполняют исследовательские задачи с частичной автономией, оставаясь при этом под наблюдением и контролем человека. В недалёком будущем может наступить третий этап, на котором автономные системы ИИ будут самостоятельно проводить исследования и генерировать знания без наблюдения или контроля со стороны человека. Хотя второй и третий этапы научных исследований с использованием ИИ могут принести существенную пользу науке и обществу, они также порождают новые этические проблемы, включая: (1) проведение аморальных исследований, способных причинить вред людям и другим формам жизни; (2) увеличение частоты предвзятых, ошибочных и вводящих в заблуждение исследований; (3) проблемы конфиденциальности; (4) чрезмерную зависимость от ИИ; (5) размывание ответственности и подотчётности; (6) утрату профессиональных навыков; (7) потерю рабочих мест; (8) создание ИИ результатов исследований, выходящих за пределы человеческого понимания; и (9) подрыв доверия. Мы предлагаем конкретные решения для минимизации негативных последствий этих проблем, а также меры, призванные обеспечить соответствие внедрения ИИ в научные исследования человеческим ценностям.