新冠期間，以人工智能為技術(shù)基礎(chǔ)的系統(tǒng)表現(xiàn)出了點(diǎn)兒?jiǎn)栴}。病毒都能感染人工智能了嘛？當(dāng)然不是，被影響到的是人類。沒(méi)有了人工介入，人工智能和機(jī)器學(xué)習(xí)系統(tǒng)都不能良好運(yùn)轉(zhuǎn)了。

人工智能聽(tīng)起來(lái)似乎離我們很遠(yuǎn)，但其實(shí)每個(gè)人生活中都體驗(yàn)過(guò)它。從Netflix的定制化推薦到Spotify的個(gè)性化播放歌單，再到像Alexa一樣可以管理購(gòu)物清單和應(yīng)用的語(yǔ)音助手。這些例子都能說(shuō)明集成人工智能系統(tǒng)是如何進(jìn)入人類生活的。

從商業(yè)的角度看，很多公司都會(huì)在人工智能和機(jī)器學(xué)習(xí)方面大量投資。不管是重要商業(yè)過(guò)程的自動(dòng)化，建立多渠道的供應(yīng)鏈；還是將聊天機(jī)器人授權(quán)給顧客聯(lián)絡(luò)團(tuán)隊(duì)，以人工智能為基礎(chǔ)的系統(tǒng)都能大大降低了人工勞動(dòng)以及企業(yè)成本，以獲得更高收益率。

看似百毒不侵的AI，卻被發(fā)現(xiàn)了也有弱點(diǎn)？來(lái)自麻省理工學(xué)院的作者威爾·道格拉斯近期在文章中提出：在新冠病毒疫情期間，以人工智能為技術(shù)基礎(chǔ)的系統(tǒng)表現(xiàn)欠佳。病毒不是直接影響人工智能，而是影響了人類。

如果經(jīng)常用機(jī)器學(xué)習(xí)算法來(lái)管理存貨、客戶支持及其他功能，系統(tǒng)可能會(huì)被訓(xùn)練得很好，在無(wú)人介入的情況下也能高效運(yùn)轉(zhuǎn)。但這種說(shuō)法只能說(shuō)是部分正確，因?yàn)槿藗儾⑽锤鶕?jù)疫情出現(xiàn)的“新常態(tài)”來(lái)訓(xùn)練機(jī)器學(xué)習(xí)算法。

疫情已經(jīng)徹底改變了世界，包括供給和需求的模式和一般買(mǎi)方行為。在幾天時(shí)間內(nèi)，廁紙、口罩、手部消毒液成了亞馬遜上全球搜索頻率最高的產(chǎn)品，而手機(jī)充電器和樂(lè)高這些長(zhǎng)久以來(lái)爆紅產(chǎn)品的人氣卻大大降低了。

這些驚人的變化都影響了人工智能，很多基于常規(guī)行為訓(xùn)練出的機(jī)器學(xué)習(xí)模型突然面臨大量的偏差，就無(wú)法正常工作了。

疫情前值得關(guān)注的人工智能失敗案例

人工智能應(yīng)用在過(guò)去的幾年內(nèi)的優(yōu)化十分顯著。然而，當(dāng)機(jī)器因?yàn)橐粋€(gè)或某些原因無(wú)法正常工作時(shí)就會(huì)出現(xiàn)問(wèn)題。比如，本應(yīng)治愈癌癥的IBM“沃森腫瘤學(xué)”卻成了荒謬的產(chǎn)品。

有人發(fā)現(xiàn)這個(gè)產(chǎn)品給出錯(cuò)誤的診療建議，這有可能會(huì)惡化病人的病情，接著它就被停止使用了。人們這才發(fā)現(xiàn)，沃森是基于少數(shù)“人造癌癥病例”被訓(xùn)練出來(lái)的，而不是基于真實(shí)的病人數(shù)據(jù)。即使是建議，也應(yīng)該基于一些癌癥專家的專業(yè)知識(shí)，而不是任何書(shū)面指南和證據(jù)。

另一個(gè)案例是亞馬遜的招聘引擎偏向白人男性。這個(gè)模型是基于十年間投遞到亞馬遜的簡(jiǎn)歷訓(xùn)練出來(lái)的，并且以現(xiàn)在的工程師為基準(zhǔn)。根本上來(lái)說(shuō)，這個(gè)訓(xùn)練后的模型在招聘中偏向男性。據(jù)熟悉此問(wèn)題的人報(bào)道，系統(tǒng)會(huì)不公平地對(duì)待含“女性的”這個(gè)詞的簡(jiǎn)歷，并且還會(huì)給來(lái)自兩所女子大學(xué)的簡(jiǎn)歷降分。

回到當(dāng)前疫情，以賣消毒劑的公司為例，零售商依靠自動(dòng)存貨管理系統(tǒng)預(yù)測(cè)出的合作公司（預(yù)測(cè)算法根據(jù)用戶行為生成）不再與疫情期間的實(shí)際需求相匹配，這會(huì)導(dǎo)致嚴(yán)重的供需不平問(wèn)題。

實(shí)際上，當(dāng)全世界的供應(yīng)鏈?zhǔn)艿接绊?，各家公司面?duì)新的需求情況時(shí)，人們應(yīng)該重新考慮運(yùn)用在銷售和開(kāi)支預(yù)算中的人工智能模型了。由于當(dāng)前的經(jīng)濟(jì)和社會(huì)情況催生了“新常態(tài)”，曾經(jīng)導(dǎo)入到機(jī)器學(xué)習(xí)模型的數(shù)據(jù)和假設(shè)不僅不再適用，而且還可能導(dǎo)致嚴(yán)重的錯(cuò)誤。

人工介入對(duì)人工智能的成功至關(guān)重要

機(jī)器學(xué)習(xí)系統(tǒng)的質(zhì)量?jī)H取決于用于訓(xùn)練它的數(shù)據(jù)的質(zhì)量，這意味著當(dāng)今的黑天鵝事件引發(fā)了人們?nèi)ブ匦孪胂髮?dǎo)入到人工智能——機(jī)器學(xué)習(xí)系統(tǒng)里的訓(xùn)練集合。很多專家認(rèn)為，訓(xùn)練人工智能不能僅基于單一的最壞情況能，還應(yīng)基于人類歷史上的轉(zhuǎn)折性事件，比如上世紀(jì)30年代的大蕭條、2007-2008年的金融危機(jī)，還有當(dāng)前的疫情。

人類的監(jiān)管可以很大程度上攻克人工智能的短板。這幾個(gè)月來(lái)，人們對(duì)健康的關(guān)注變得更多了，再加上社交媒體上關(guān)于疫情不斷的真假傳聞。很多人不能辨別新聞的真假，這會(huì)在現(xiàn)實(shí)世界里造成嚴(yán)重的后果。

所有人只知道控訴臉書(shū)的算法推送假新聞來(lái)影響美國(guó)大選，事實(shí)上，人類的監(jiān)管可以制止假新聞的傳播，可以通過(guò)讀者點(diǎn)擊新聞來(lái)源，辨別故事真假，曝光假新聞，從而阻止其傳播。

今天，人類盡管試圖讓人工智能模仿人類，但還是無(wú)法讓人工智能在無(wú)人監(jiān)測(cè)的情下獨(dú)自運(yùn)行。機(jī)器終究只是機(jī)器，它們并不受道德和社會(huì)標(biāo)準(zhǔn)的約束。

好的情況下，人工智能基于訓(xùn)練它的良好數(shù)據(jù)而表現(xiàn)良好；反之，人工智能也能反映偏見(jiàn)、思考過(guò)程、或創(chuàng)造者的道德標(biāo)準(zhǔn)。為了克服這些問(wèn)題，用不同的數(shù)據(jù)集合訓(xùn)練人工智能，并且加入人工檢測(cè)，是很有必要的。未來(lái)之路還有很久很長(zhǎng)。