Печали юных пользователей чат-ботов: вред и ответственность в отношениях человека и искусственного интеллекта

В статье утверждается, что взаимодействие с чат-ботами представляет собой форму взаимодействия с вымышленными персонажами; поэтому сравнение чат-ботов с романами и видеоиграми как средствами взаимодействия с вымыслом позволяет лучше понять, кто, если вообще кто-либо, несёт ответственность в тех случаях, когда взаимодействие пользователей с чат-ботами приводит к самоповреждению или причинению вреда другим. Мы рассматриваем различия между романами, видеоиграми и чат-ботами по четырём параметрам: степень контроля создателей над содержанием и пользовательским опытом, природа вымышленного мира, тип взаимодействия, который стимулирует каждый из этих медиумов, и структура опыта взаимодействия. Мы исходим из минимального понимания того, что необходимо для моральной ответственности, и рассматриваем, каким образом ответственность может быть распределена, когда взаимодействие с вымышленными мирами приводит к вреду, причинённому пользователям или причинённому ими. Мы утверждаем, что компании, занимающиеся искусственным интеллектом (ИИ), несут моральную ответственность, когда использование чат-ботов приводит к вреду, поскольку после выпуска чат-ботов в публичный доступ они сохраняют определённый контроль над ними и могут отслеживать взаимодействие пользователей, даже если не способны полностью контролировать ответы чат-ботов. В заключительном разделе мы указываем, что могут сделать компании, занимающиеся ИИ, чтобы смягчить негативное влияние чат-ботов на пользователей.