Преимущества и риски использования ИИ-агентов в научных исследованиях

Ученые начали использовать агентов искусственного интеллекта (ИИ) для выполнения таких задач, как обзор опубликованной литературы, формулирование гипотез и их виртуальная проверка, моделирование сложных явлений и проведение экспериментов. Хотя ИИ-агенты, вероятно, будут повышать продуктивность и эффективность научных исследований, их внедрение также создает риски для научной деятельности и общества, включая принятие неэффективных политических решений на основе ошибочных, неточных или предвзятых работ и продуктов, созданных ИИ; пробелы в распределении ответственности в научных исследованиях; потерю рабочих мест в сфере науки, особенно должностей начального уровня; утрату исследователями профессиональных навыков; участие ИИ-агентов в неэтичных исследованиях; создание знаний, которые невозможно проверить или понять человеку; а также утрату проницательности и смелости, необходимых для оспаривания или критики ИИ и для информирования о нарушениях. В статье рассматриваются эти риски и утверждается, что для их ответственного регулирования необходимо безотлагательно определить, какие исследовательские задачи следует автоматизировать, а какие — нет. Для обеспечения ответственного использования ИИ-агентов в исследованиях учреждениям следует обучать исследователей основам ИИ и алгоритмической грамотности, выявлению предвзятости и проверке результатов, а также содействовать пониманию рисков и ограничений ИИ-агентов. Исследовательским группам может быть полезно назначать ответственное за ИИ лицо, например эксперта по валидации ИИ или гаранта надежности ИИ, которое будет осуществлять надзор и нести ответственность за целостность результатов, полученных при содействии ИИ.