人工智能，是由人制造出來的機(jī)器所表現(xiàn)出來的智能，是通過普通計(jì)算機(jī)程序來呈現(xiàn)人類智能的技術(shù)，人工智能正越來越廣泛地應(yīng)用于商業(yè)領(lǐng)域。

比如商家考慮使用人工智能來設(shè)置要出售給特定客戶的保險(xiǎn)產(chǎn)品的價(jià)格，為不同的客戶設(shè)置不同的價(jià)格。這可以說是有正當(dāng)理由的，但是“玩弄”客戶的心理或購(gòu)物意愿時(shí)常為的是可能會(huì)有利可圖。

人工智能具有很多潛在的策略可供選擇，這其中涉及到道德問題，有些策略不道德。這些策略不僅會(huì)帶來道德上的損失，而且會(huì)帶來巨大的潛在經(jīng)濟(jì)損失，因?yàn)槿绻嫦嚓P(guān)者發(fā)現(xiàn)使用了這樣的策略，他們將對(duì)其施加一定的懲罰，比如客戶可能會(huì)投訴、抵制，還有監(jiān)管者可能會(huì)懲罰高達(dá)數(shù)十億美元的巨額罰款。

因此，在越來越多的決策無需人工干預(yù)而完全應(yīng)用人工智能的情況中，無論是商家還是客戶都有強(qiáng)烈的訴求，想了解人工智能系統(tǒng)在什么情況下可能采取不道德的策略，從而降低這種風(fēng)險(xiǎn)，或者在可能的情況下完全消除這種風(fēng)險(xiǎn)。

最近，由英國(guó)華威大學(xué)（University of Warwick）、帝國(guó)理工大學(xué)（Imperial College London）、洛桑聯(lián)邦理工學(xué)院（Lausanne EPFL）數(shù)學(xué)研究所和沃里克大學(xué)數(shù)學(xué)學(xué)院的數(shù)學(xué)家和統(tǒng)計(jì)學(xué)家組成的一個(gè)研究團(tuán)隊(duì)，發(fā)現(xiàn)了一種數(shù)學(xué)方法，可以幫助監(jiān)管機(jī)構(gòu)和業(yè)務(wù)管理并監(jiān)管人工智能系統(tǒng)偏向做出不道德、可能非常昂貴和破壞性商業(yè)選擇的偏見，幫助企業(yè)和監(jiān)管機(jī)構(gòu)制定了新的“不道德優(yōu)化原則”，并提供一個(gè)簡(jiǎn)單的公式來估算其影響。他們的題為“不道德優(yōu)化原則”的論文發(fā)表在最近的皇家學(xué)會(huì)科學(xué)雜志上。

論文作者、華威大學(xué)數(shù)學(xué)研究所的羅伯特·麥凱教授說：“我們建議的‘不道德優(yōu)化原則’可用于幫助監(jiān)管機(jī)構(gòu)、合規(guī)人員和其他人員找到可能隱藏在大型策略空間中的問題策略?？梢云谕麅?yōu)化會(huì)不成比例地選擇許多不道德策略，對(duì)其進(jìn)行檢查應(yīng)顯示在哪里可能會(huì)出現(xiàn)問題，因此建議應(yīng)如何修改人工智能搜索算法，以免今后避免使用它們。

該數(shù)學(xué)方法所體現(xiàn)的原則還表明，可能有必要重新考慮人工智能在非常大的戰(zhàn)略空間中的運(yùn)作方式，以便在優(yōu)化與學(xué)習(xí)過程中明確拒絕不道德的結(jié)果。