《紐約時報》3月21日的《科學(xué)》雜志報道說，黑客的可訪問性和潛在的安全漏洞在很大程度上影響著成功的AI系統(tǒng)的發(fā)展，但更緊迫的威脅可能會由醫(yī)療保健監(jiān)管機(jī)構(gòu)（如保險提供商和計費(fèi)公司）面臨。

雖然神經(jīng)網(wǎng)絡(luò)通過分析大量數(shù)據(jù)來訓(xùn)練自己完成某些任務(wù)，但只需少量的數(shù)字操作即可改變技術(shù)的核心功能，哈佛醫(yī)學(xué)院和麻省理工學(xué)院的研究員Samuel Finlayson也是該論文的作者，告訴《紐約時報》。正如研究人員已經(jīng)訓(xùn)練了AI系統(tǒng)來檢測乳腺癌一樣，黑客可以操縱代碼以不標(biāo)記惡性腫瘤。

研究人員一次又一次地證明了AI可能會帶來意想不到的負(fù)面后果-例如，無人駕駛汽車將停車標(biāo)志解釋為屈服標(biāo)志，并且以AI為動力的眼鏡被欺騙以使其認(rèn)為名人。但就臨床而言，F(xiàn)inlayson和他的同事表示，他們擔(dān)心強(qiáng)大的醫(yī)療保健利益相關(guān)者可以通過數(shù)據(jù)操作實現(xiàn)什么。

Finlayson告訴《紐約時報》：“醫(yī)學(xué)信息固有的含混性，加上經(jīng)常競爭的財務(wù)激勵機(jī)制，使高風(fēng)險決策可以依靠非常微妙的信息?！?/p>

他說，由于醫(yī)療保健行業(yè)內(nèi)有大量的貨幣兌換，保險和計費(fèi)公司已經(jīng)通過更改其計算機(jī)系統(tǒng)內(nèi)的計費(fèi)代碼和其他數(shù)據(jù)來“使系統(tǒng)計費(fèi)”。隨著AI在這些環(huán)境中變得越來越普遍，利益相關(guān)者更有可能操縱掃描以獲得更好的支出，或者更改圖像以加快監(jiān)管審批。

賓夕法尼亞大學(xué)助理教授哈姆薩·巴斯塔尼（Hamsa Bastani）對《醫(yī)療時報》進(jìn)行了研究，他說：“某些行為是無意的，但并非全部?！?“總是會有意想不到的后果，尤其是在醫(yī)療保健方面。”