7月25日，美國健康醫(yī)療媒體STAT曝出IBM公司的內(nèi)部文件顯示，用于輔助醫(yī)生設(shè)計(jì)癌癥治療方案的AI產(chǎn)品沃森問題不小，除了來自用戶的抱怨，還會開出危險(xiǎn)和錯誤的癌癥治療方案。

IBM的報(bào)告里，沃森的問題：

1、沃森的訓(xùn)練數(shù)據(jù)不是真實(shí)的數(shù)據(jù)，是假想數(shù)據(jù)；

2、訓(xùn)練數(shù)據(jù)不夠；

3、訓(xùn)練沃森時(shí)，不是醫(yī)療指南或真實(shí)數(shù)據(jù)；

4、在訓(xùn)練時(shí)，沃森開除了不合適且危險(xiǎn)的治療方案；

5、評估沃森系統(tǒng)和癌癥專輯的方案可能有偏向性。

其實(shí)，沒有這個(gè)報(bào)告，這些問題IBM在推廣沃森時(shí)，好像已經(jīng)提到過，因?yàn)槊绹[私保護(hù)的法律非常嚴(yán)格，個(gè)人的病例是受法律保護(hù)的，沃森在美國的訓(xùn)練數(shù)據(jù)，應(yīng)該是假想數(shù)據(jù)。而IBM在美國之外推動人工智能的診斷，有沒有獲取診療數(shù)據(jù)的目的？

機(jī)器換人是需要經(jīng)歷逐步完善的過程

記得以前在做供應(yīng)鏈計(jì)劃軟件公司工作的時(shí)候，提供的是APS功能，用APS來解放計(jì)劃員的計(jì)劃、排程工作，解決方案是使用APS提供一個(gè)可實(shí)現(xiàn)的計(jì)劃、排程建議給計(jì)劃員，由計(jì)劃員修正、形成最終的計(jì)劃排程。

而IBM的腫瘤醫(yī)生沃森，做的工作，就與APS對計(jì)劃員的工作是一樣的，經(jīng)過訓(xùn)練的沃森，給出的是診療意見，最后這個(gè)診療意見是給醫(yī)生一個(gè)參考，醫(yī)生在這個(gè)過程中，沃森是一個(gè)輔助工具。

作為輔助工具，其實(shí)其發(fā)展也要經(jīng)歷兩個(gè)過程：

第一個(gè)階段：診斷不完善，診斷只是參考；

第二個(gè)階段：將診斷結(jié)果限定在一定范圍，保證不出錯的建議。

其實(shí)很多人工智能的應(yīng)用還處于第一個(gè)階段，在這個(gè)階段，診斷只是參考，不能影響人的診斷。在這個(gè)階段，使用AI工具的還是需要有豐富的經(jīng)驗(yàn)，需要具有獨(dú)立診斷的能力。在這個(gè)階段積累豐富的案例之后，降低AI誤診的比例。

而到了第二階段，人工智能具備了專家經(jīng)驗(yàn)，誤診比例非常低之后，可以讓更多部具有專家經(jīng)驗(yàn)的人使用工具。其實(shí)現(xiàn)在處于發(fā)展的第一階段。出現(xiàn)各種問題是可以理解的。

機(jī)器只是工具

對于人工智能應(yīng)用于治療，其最終目標(biāo)也是讓機(jī)器解決確定性的，人來解決不確定性的。按照APS的設(shè)計(jì)原理，機(jī)器解決的是可以規(guī)則化的問題，而人解決的是不可以規(guī)則化的問題。而人工智能應(yīng)用于治療，人工智能解決的也是可以用知識表述并解決的問題；人來解決新的未知的知識。

人工智能還只是工具，用于輔助人的工作，是解放可以重復(fù)性的工作，而完全創(chuàng)新的的工作，仍然需要提示給人，來請更多的專家來完善功能。

工具的完善需要時(shí)間

IBM的沃森只是工具，但把它當(dāng)作醫(yī)生來用，就會出現(xiàn)問題。而工具的完善也是需要時(shí)間的。比如現(xiàn)在自動駕駛技術(shù)，雖然已經(jīng)有很多應(yīng)用，但也出現(xiàn)了很多事故。但工具的完善，都是在不斷發(fā)生問題，解決問題的過程中完善的。這個(gè)過程是不可避免的。

不能因?yàn)橹虚g出現(xiàn)問題，就全盤否定。AI的大趨勢比可避免，不能因噎廢食。