Почему я должен вам доверять?

"Why Should I Trust You?"
Sameer Singh, Carlos Guestrin, Marco Túlio Ribeiro
2016-08-08
SCID:  54.1/m5w6g3zc Discuss with AI
модели типа «чёрный ящик»интерпретируемость моделейпрозрачность моделейобъяснение предсказанийдоверенное машинное обучение
Abstract (AI)
Несмотря на широкое распространение, модели машинного обучения по-прежнему в основном остаются «чёрными ящиками». Однако понимание причин, лежащих в основе предсказаний, крайне важно для оценки доверия, которое имеет фундаментальное значение, если предполагается принимать решения на основе предсказания или выбирать, следует ли внедрять новую модель. Такое понимание также позволяет получить представление о модели, что может быть использовано для преобразования ненадёжной модели или предсказания в надёжные.
Key Findings
1
Объяснения предсказаний могут раскрывать особенности поведения модели и помогать находить способы преобразования ненадёжных моделей или предсказаний в надёжные.
2
Аннотация выделяет непрозрачность широко используемых моделей машинного обучения как основную проблему для доверия и решений о внедрении.
3
Понимание причин, лежащих в основе предсказаний машинного обучения, важно для оценки доверия перед действиями на основе предсказаний или внедрением моделей.
Research Object

Модели машинного обучения и их предсказания

Research Subject

Интерпретируемость предсказаний моделей как основа оценки и повышения надёжности, а также принятия решений о развёртывании

Publication Details
Publication Date
2016-08-08
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Sameer Singh
Carlos Guestrin
Marco Túlio Ribeiro
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%