作者：小巖

編輯：彩云

根據(jù)財(cái)聯(lián)社消息，11月28日，比爾·蓋茨針對(duì)AI未來(lái)的發(fā)展趨勢(shì)發(fā)表了自己的看法。他認(rèn)為，當(dāng)下生成式AI的發(fā)展已經(jīng)達(dá)到了極限，很難再有突破性的進(jìn)展。下一個(gè)AI發(fā)展的賽道，很可能是可解釋AI。比爾.蓋茨預(yù)測(cè)，未來(lái)10年（2030年-2039年），AI領(lǐng)域的主角將成為可解釋AI。

大部分人預(yù)判：GPT-5將明顯優(yōu)于GPT-4，成為生成式AI領(lǐng)域天花板。

盡管OpenAI還沒(méi)有對(duì)外界公布GPT-5的確切上線時(shí)間，甚至還曾遭到馬斯克等人的反對(duì)，被其“聯(lián)名上書(shū)”，認(rèn)為“GPT -5不應(yīng)該問(wèn)世”。但有一點(diǎn)毋庸置疑，如今的大模型GPT-4已經(jīng)達(dá)到了行業(yè)領(lǐng)先的水準(zhǔn)，眾人難望其項(xiàng)背。而它距離上一代的GPT-3.5上線，只經(jīng)歷了很短的時(shí)間，所以，我們有理由相信，一旦GPT-5成功面世，它的優(yōu)勢(shì)將明顯大于GPT。這也是比爾.蓋茨認(rèn)為生成式AI再難有突破的重要原因。

當(dāng)然不可否認(rèn)，生成式AI公司在最近取得了飛速發(fā)展。根據(jù)PitchBook為彭博社收集的數(shù)據(jù)，僅第3季度，全球AI公司的融資價(jià)值同比增長(zhǎng)27 %，達(dá)到179億美元。這表明了投資者對(duì)于AI技術(shù)，特別是當(dāng)下發(fā)展正夯的生成式AI，持有相信和樂(lè)觀態(tài)度。而且，這種“一片向好”的態(tài)勢(shì)不光出現(xiàn)在國(guó)際上，中國(guó)自己的生成式AI行業(yè)也在這一年得到了迅速發(fā)展，這其中涵蓋了語(yǔ)言模型，圖像生成，文學(xué)創(chuàng)作，音樂(lè)創(chuàng)作，游戲開(kāi)發(fā)等多個(gè)領(lǐng)域。

隨著大模型在AI領(lǐng)域取得了重大突破，未來(lái)算力將變得更加廉價(jià)，也會(huì)在多個(gè)領(lǐng)域取得顯著成果，從而推動(dòng)國(guó)內(nèi)的產(chǎn)業(yè)升級(jí)和創(chuàng)新發(fā)展。當(dāng)然，在這個(gè)過(guò)程中，大型模型會(huì)逐漸減少，應(yīng)用則會(huì)愈發(fā)增多。

不過(guò)，各大企業(yè)在享受AI飛速發(fā)展的紅利的同時(shí)，也不得不面對(duì)激烈的市場(chǎng)競(jìng)爭(zhēng)。為了在市場(chǎng)上分得一杯羹，各企業(yè)傾向通過(guò)橫向并購(gòu)的方式來(lái)擴(kuò)大市場(chǎng)份額，從而提升地位。而AI大模型的研發(fā)，數(shù)據(jù)收集，數(shù)據(jù)驗(yàn)證也需要有大量的資金來(lái)做支撐。此時(shí)，就要考驗(yàn)企業(yè)是否具有“鈔能力”了。

可解釋AI即將登場(chǎng)！它為何有可能引領(lǐng)下一個(gè)AI風(fēng)潮？

那么，為什么可解釋AI會(huì)備受比爾.蓋茨的推崇？

在人類(lèi)歷史上，技術(shù)進(jìn)步，生產(chǎn)關(guān)系邏輯，倫理法規(guī)的發(fā)展是動(dòng)態(tài)演進(jìn)的。當(dāng)一種新的技術(shù)在實(shí)驗(yàn)室獲得突破后，它所能帶來(lái)的價(jià)值生產(chǎn)方式勢(shì)必會(huì)對(duì)商品形態(tài)和生產(chǎn)關(guān)系等帶來(lái)沖擊。當(dāng)新技術(shù)帶來(lái)的價(jià)值被認(rèn)可，商業(yè)邏輯會(huì)逐步形成，同時(shí)適配全新的倫理法規(guī)。

近10年來(lái)，借由算力與數(shù)據(jù)規(guī)模的性?xún)r(jià)比突破臨界點(diǎn)，以深度神經(jīng)網(wǎng)絡(luò)為代表的聯(lián)結(jié)主義模型架構(gòu)及統(tǒng)計(jì)學(xué)習(xí)范式（簡(jiǎn)稱(chēng)深度學(xué)習(xí)）在特征表征能力上取得了跨越級(jí)別的突破，大大推動(dòng)了人工智能的發(fā)展，在很多場(chǎng)景中達(dá)到令人難以置信的效果（譬如人臉識(shí)別準(zhǔn)確率達(dá)到97 %以上；谷歌智能語(yǔ)音助手的回答正確率高達(dá)90 %以上等，都是典型案例） 。

不過(guò)，當(dāng)學(xué)習(xí)不斷深入，問(wèn)題也隨之產(chǎn)生。當(dāng)“深度學(xué)習(xí)商業(yè)化運(yùn)用”觸及到某些對(duì)技術(shù)敏感，或者與人的生存和安全關(guān)系緊密的領(lǐng)域時(shí)，諸如自動(dòng)駕駛，金融，醫(yī)療和司法等高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景，原有的商業(yè)邏輯在進(jìn)行技術(shù)更替的過(guò)程中就會(huì)遇到阻力，從而導(dǎo)致商業(yè)化速度的減緩甚至失敗。

究其原因，是因?yàn)檫@些敏感領(lǐng)域會(huì)涉及到社會(huì)道德和倫理法規(guī)的問(wèn)題。對(duì)于這些，我們?nèi)祟?lèi)可以在第一時(shí)間給予清晰的分辨，溯源和問(wèn)責(zé)?？蛇@些深度學(xué)習(xí)的商業(yè)體，從本質(zhì)上說(shuō)，就是一個(gè)黑盒，無(wú)法從模型的結(jié)構(gòu)或權(quán)重中獲取模型行為的任何信息，從而導(dǎo)致AI在業(yè)務(wù)應(yīng)用中遇到技術(shù)和結(jié)構(gòu)上的困難。

讓我們舉2個(gè)例子來(lái)進(jìn)行一下說(shuō)明。譬如在金融風(fēng)控的場(chǎng)景里，通過(guò)深度學(xué)習(xí)，模型識(shí)別出來(lái)小部分用戶(hù)有欺詐嫌疑，但是業(yè)務(wù)部門(mén)不敢直接使用這個(gè)結(jié)果進(jìn)行處理。因?yàn)檎麄€(gè)業(yè)務(wù)部門(mén)都不知道結(jié)果是如何得來(lái)的，并且無(wú)法判斷得出的結(jié)果是否正確，整個(gè)過(guò)程也都缺乏明確的證據(jù)。再比如說(shuō)在醫(yī)療使用場(chǎng)景里，深度學(xué)習(xí)模型根據(jù)患者的檢測(cè)數(shù)據(jù)，判斷患者有肺結(jié)核。但是醫(yī)生不知道診斷結(jié)果是怎么來(lái)的，不敢直接采用，只能根據(jù)自己的經(jīng)驗(yàn)，仔細(xì)查看相關(guān)檢測(cè)數(shù)據(jù)，給出自己的判斷。

由此可見(jiàn)，“黑盒”的形態(tài)會(huì)嚴(yán)重影響模型在實(shí)際場(chǎng)景的應(yīng)用和推廣。要解決模型的這些問(wèn)題，就需要打開(kāi)黑盒模型，透明化模型構(gòu)建過(guò)程和推理機(jī)理，而可解釋AI就是實(shí)現(xiàn)模型透明化的有效技術(shù)。

可解釋AI：一套面向機(jī)器學(xué)習(xí)（主要是深度神經(jīng)網(wǎng)絡(luò)）技術(shù)合集。

所謂可解釋AI，英文是explainable AI(XAI)。目前，無(wú)論學(xué)術(shù)界還是工業(yè)界，對(duì)于可解釋AI都沒(méi)有一個(gè)統(tǒng)一的定義。我們?cè)谶@里為大家介紹3個(gè)廣為流行的解釋。

第一個(gè)解釋?zhuān)窍Ｍ麑で髮?duì)模型工作機(jī)理的直接理解，打破人工智能的黑盒子。第二個(gè)解釋?zhuān)菫锳I算法所做出的決策提供人類(lèi)可讀的以及可理解的解釋。都三個(gè)解釋?zhuān)谴_保人類(lèi)可以輕松理解和信任人工智能代理做出的決策的一組方法。

由此可見(jiàn)，對(duì)于黑盒模型的理解，是可解釋AI的關(guān)鍵。

MindSpore團(tuán)隊(duì)根據(jù)自身的實(shí)踐經(jīng)驗(yàn)和理解，將可解釋AI定義為：一套面向機(jī)器學(xué)習(xí)（主要是深度神經(jīng)網(wǎng)絡(luò)）的技術(shù)合集，包括可視化，數(shù)據(jù)挖掘，邏輯推理，知識(shí)圖譜等。

有了可解釋AI的介入，用戶(hù)就可以知道AI系統(tǒng)為什么要這樣做，也知道AI系統(tǒng)為什么不這樣做；可以知道AI系統(tǒng)什么時(shí)候可以成功，什么時(shí)候失?。豢梢灾朗裁磿r(shí)候可以信任AI系統(tǒng)；更可以知道AI系統(tǒng)為什么做錯(cuò)了。

目前，OpenAI的產(chǎn)品還沒(méi)有辦法實(shí)現(xiàn)完全盈利。本身ChatGPT并不做商業(yè)用途，而且在運(yùn)營(yíng)過(guò)程中，需要應(yīng)對(duì)各項(xiàng)成本支出（培訓(xùn)，微調(diào)，人員工資等），再加上GPT-5的訓(xùn)練時(shí)間極有可能拉長(zhǎng)，OpenAI未來(lái)要面臨的挑戰(zhàn)異常嚴(yán)峻。

此時(shí)，如果能跳脫出生成式AI的圈子，另辟蹊徑，進(jìn)入下一個(gè)發(fā)展階段，未嘗不是一個(gè)適合的出路。

審核編輯 黃宇