6月28日消息，堪薩斯州立大學(xué)和路易斯維爾大學(xué)的三位AI安全研究人員合作發(fā)布了的一篇新論文《A Psychopathological Approach to Safety Engineering in AI and AGI》，如果AI學(xué)會像人一樣思考，那么有朝一日它也可能會身患壓力和抑郁癥等癥狀。

一、機器人抑郁關(guān)我什么事？

機器人或許現(xiàn)在暫時還不需要被治療，但認(rèn)知心理學(xué)已經(jīng)被發(fā)現(xiàn)是理解人工智能決策的有效途徑。此外，一些研究人員表示，現(xiàn)在開始研究機器發(fā)展強迫癥或抑郁傾向的可能已經(jīng)不算早了。

這篇論文的合著者、堪薩斯州立大學(xué)的一位博士候選人Vahid Behzadan表示，即使是當(dāng)前相對基本的機器學(xué)習(xí)算法也可以表現(xiàn)出與人類相似的認(rèn)知問題。

1、“獎勵黑客”

“獎勵黑客”，就是指不合適的獎勵設(shè)置可能導(dǎo)致AI走向“強迫性表面行為”（Compulsive-seeming behaviors），也就是說，AI可能會做一些表面服從而背后偷偷耍小聰明的事。舉個例子，一個清潔機器人被程序設(shè)定為每次完成清理時都會收到獎勵。那么，與其保持一片無瑕的區(qū)域，它可能會更樂于反復(fù)地制造混亂，這樣它就能在每次清理時獲得獎勵。

2、AI可以學(xué)習(xí)別人的不良行為

麻省理工學(xué)院的科學(xué)家故意創(chuàng)造了一個不正常的AI，通過給它灌輸Reddit論壇里魚龍混雜的評論，導(dǎo)致它的行為活像一個精神病患者。巧合的是，微軟也做了類似的工作，即讓一個名為Tay的聊天機器人學(xué)習(xí)Twitter用戶們的評論方式。

二、成熟的AI更容易患上心理疾病

一些專家表示，更發(fā)達(dá)的AI可能更容易患上更復(fù)雜的身心失調(diào)問題。

1、機器人可能有抑郁癥表現(xiàn)

葡萄牙尚帕利莫中心（the Champalimaud Center）的神經(jīng)科學(xué)家Zachary Mainen推測道，如果機器人的學(xué)習(xí)速率被設(shè)置的太低，它很可能無法適應(yīng)周圍環(huán)境。

2、并非所有的“負(fù)面”情緒都不好

一位長期的AI研究人員Jim Crowder曾在雷神公司（Raytheon）合著了一篇人工心理學(xué)論文，他認(rèn)為負(fù)面情緒在某些情況下也不都是壞事。比如，壓力感能夠在高風(fēng)險情況下引起機器人的緊迫感。

三、但是，但是，但是……

這些后面所說的可能性僅僅是現(xiàn)在設(shè)想的AI實驗方向。與此同時，谷歌在2014年收購的英國AI公司DeepMind已經(jīng)應(yīng)用心理學(xué)工具來分析神經(jīng)網(wǎng)絡(luò)如何解決基本的圖像分類任務(wù)。

1、研究人員使用發(fā)展心理學(xué)家的方法，以研究DeepMind圖像分類器正用于分類對象這一假設(shè)。他們發(fā)現(xiàn)，這個分類器更傾向于根據(jù)它們的形狀而不是它們的顏色或紋理來匹配對象。

2、DeepMind的兩名研究人員在他們的實驗中寫道：“案例研究的成功證明了使用認(rèn)知心理學(xué)來理解深度學(xué)習(xí)系統(tǒng)的潛力?！?/p>

結(jié)語：大藍(lán)圖——AI心理學(xué)家

無論是人類還是專門的算法，可能總有一天需要AI心理學(xué)家用人類心理學(xué)家試圖理解我們心理的方法來探究AI大腦。Behzadan認(rèn)為，這項研究可以為人類心理學(xué)和人類精神病理學(xué)提供更深入的見解。