10月13日，為期兩天的中國國際半導(dǎo)體高管峰會（China International Semiconductor Executive Summit）在上海成功舉行，并邀請到了清華大學(xué)魏少軍教授（IEEE Fellow， CIE Fellow）等演講嘉賓。

作為全球規(guī)模最大的半導(dǎo)體制造產(chǎn)業(yè)高管的年度盛會，今年的大會結(jié)合人工智能技術(shù)應(yīng)用探討了半導(dǎo)體行業(yè)的發(fā)展趨勢。深蘭科技首席數(shù)據(jù)科學(xué)家、戰(zhàn)略委員會戰(zhàn)略技術(shù)專家、深蘭科學(xué)院智能社會研究院院長沙文灝受邀參加，作為國內(nèi)人工智能企業(yè)率先公開發(fā)表了《深蘭科技可解釋人工智能（XAI）技術(shù)》并作主題演講。

未來2-3年內(nèi)，約50%以上的信息系統(tǒng)直接或間接地與機(jī)器學(xué)習(xí)相關(guān)，在企業(yè)數(shù)字化轉(zhuǎn)型（DX）與人工智能的主要應(yīng)用（自然語言處理、自動駕駛與智能工廠等）中起到了決定性的作用?？山忉屓斯ぶ悄埽╔AI）技術(shù)應(yīng)用正在形成閉環(huán)，也是實(shí)現(xiàn)安全可信人工智能重要的基礎(chǔ)。

XAI架起數(shù)據(jù)特征和人類概念（語義）空間的橋梁

中國的基礎(chǔ)研究在全球占有一定的優(yōu)勢，提出決策幫助推進(jìn)業(yè)務(wù)是人工智能的首要任務(wù)。傳統(tǒng)人工智能的核心是通過機(jī)器學(xué)習(xí)盡可能地把觀測樣本（訓(xùn)練數(shù)據(jù)）映射到特征空間中， 而后在特征空間進(jìn)行分析， 并發(fā)現(xiàn)樣本在特征空間不同區(qū)域內(nèi)的規(guī)律， 從而達(dá)到算法要實(shí)現(xiàn)的任務(wù)目標(biāo)（如聚類、解析等）。但是人類的分析和決策是利用自身的背景知識，在概念（語義）空間（非定理性）當(dāng)中完成的。

數(shù)據(jù)特征空間和人類概念（語義）空間（非定理性）在內(nèi)涵（結(jié)構(gòu)）與外延（影響）上存在顯著的區(qū)別，而可解釋人工智能就是要填補(bǔ)這二者之間的鴻溝（GAP）。

人工智能模型越來越多地被用于輔助與代替人類決策，這些情況下，企業(yè)更需要了解這些模型是如何做出決策的。為了與用戶及權(quán)益方建立信任，人工智能的應(yīng)用必須讓所有的模型變得更加透明與更易理解。

XAI正形成閉環(huán) 人類或?qū)⒆x懂AI推理

人工智能推動企業(yè)加速創(chuàng)新，它已經(jīng)從執(zhí)行簡單任務(wù)的自動化操作升級成為與人類互動的強(qiáng)大協(xié)作工具。企業(yè)已不再將人工智能視為簡單的技術(shù)工具，而是成為整個(gè)組織的變革引擎。未來，企業(yè)需要以人機(jī)協(xié)作為核心，有效地運(yùn)用工具和改進(jìn)方法，幫助人與機(jī)器更好地相互理解及互動。

自然語言處理技術(shù)提高了機(jī)器理解書面和口頭文字的能力；擴(kuò)展現(xiàn)實(shí)和計(jì)算機(jī)視覺的進(jìn)步，可幫助機(jī)器準(zhǔn)確識別人們周邊的實(shí)體環(huán)境；而可解釋人工智能（XAI）正在形成閉環(huán)，使人們明確系統(tǒng)做出決策的推理。在人機(jī)協(xié)作模式下，從部門架構(gòu)、產(chǎn)品設(shè)計(jì)、一直到員工的雇用和培訓(xùn)，企業(yè)將對業(yè)務(wù)進(jìn)行徹底的重構(gòu)。

使用“提示決策依據(jù)的人工智能”，以實(shí)現(xiàn)決策的可視化、高度化：

可理解：基于提出預(yù)測結(jié)果的依據(jù)取得業(yè)務(wù)人員的理解，促進(jìn)AI的使用；

可確認(rèn)：可以確認(rèn)AI正確學(xué)習(xí)了業(yè)務(wù)知識，提高業(yè)務(wù)人員使用AI的愿意；

可改善：在與PoC有較大差別時(shí)能迅速確定原因，使AI的預(yù)測得到改善。

XAI作為核心的數(shù)字化架構(gòu)

在基于IoT、API管理、網(wǎng)絡(luò)安全、DevOps、云計(jì)算、RPA、容器化的數(shù)字化能力的基礎(chǔ)上，使用可解釋人工智能（XA）作為核心的數(shù)字化架構(gòu)為工業(yè)4.0、生態(tài)整合、個(gè)性化營銷、供應(yīng)鏈、生產(chǎn)管理等提供人工智能技術(shù)的賦能。

比如：當(dāng)XAI使得AI內(nèi)部工作透明化時(shí)，將有助于建立企業(yè)和其他行業(yè)監(jiān)管的信心；當(dāng)XAI將通過自然語言（語音或文本）來解釋它的決定，而不是通過復(fù)雜的模型時(shí)，使用者會更容易理解，也將推動自然語言解釋與XAI的結(jié)合使用；當(dāng)與XAI將建立起信任的橋梁，人們就能夠在方方面面中適應(yīng)并習(xí)慣與智能機(jī)器一起工作與生活，從而真正享受人工智能技術(shù)帶來的社會進(jìn)步。

XAI領(lǐng)域有很好的發(fā)展前景，可以幫助企業(yè)解決傳統(tǒng)AI的不足，在可理解的基礎(chǔ)上，全方位推動企業(yè)成長與社會發(fā)展。

責(zé)任編輯：gt