最近一期的計(jì)算機(jī)頂級期刊ACM Computing Surveys (CSUR)出版，包含了來自意大利比薩大學(xué)的研究人員發(fā)布的一篇構(gòu)建機(jī)器學(xué)習(xí)可解釋性綜述論文《A Survey of Methods for Explaining Black Box Models》，詳細(xì)闡述了解釋黑盒機(jī)器學(xué)習(xí)模型的術(shù)語概念以及相關(guān)方法，是構(gòu)建可解釋模型的重要指南。

近年來，許多準(zhǔn)確的決策支持系統(tǒng)被構(gòu)建為黑盒子，即向用戶隱藏其內(nèi)部邏輯的系統(tǒng)。缺乏解釋性既是實(shí)際問題，也是道德問題。這篇綜述文獻(xiàn)報(bào)道了許多旨在克服這一至關(guān)重要弱點(diǎn)的方法，有時以犧牲準(zhǔn)確性為代價來提升可解釋性?？梢允褂煤诤袥Q策系統(tǒng)的應(yīng)用是多種多樣的，并且每種方法通常被開發(fā)以提供針對特定問題的解決方案，并且因此，其明確地或隱含地描繪其自身對可解釋性的定義。

本文的目的是提供調(diào)研文獻(xiàn)中關(guān)于解釋概念和黑匣子系統(tǒng)類型的主要問題的分類。給定問題定義，黑匣子類型和所需解釋，此綜述應(yīng)該有助于研究人員找到對他自己工作更有用的建議。所提出的黑匣子模型分類方法也應(yīng)該有助于對許多研究開放性問題。

文章導(dǎo)讀

在本文中，我們對文獻(xiàn)中提出的用于解釋基于不透明和模糊機(jī)器學(xué)習(xí)模型的決策系統(tǒng)的方法進(jìn)行了全面的概述。首先，我們確定了解釋問題的不同組成部分。特別是，我們提供了屬于該范疇的每個問題的正式定義，為每個問題捕獲了適當(dāng)?shù)奶匦?。我們將這些黑箱問題命名為:模型解釋問題、結(jié)果解釋問題、模型檢查問題、透明箱設(shè)計(jì)問題。然后，我們提出了文獻(xiàn)中研究的方法的分類，這些方法考慮了以下幾個方面:解決的具體解釋問題，采用的解釋器的類型，打開的黑箱模型，以及黑箱模型輸入的數(shù)據(jù)的類型。

文章內(nèi)容