谷歌與五角大樓Maven項(xiàng)目合作的項(xiàng)目?jī)r(jià)值僅900萬美元，但在內(nèi)部引發(fā)了一場(chǎng)大討論，媒體報(bào)道谷歌最近正在制定一套準(zhǔn)則，將禁止在武器中使用人工智能。

谷歌備受關(guān)注的國(guó)防部Maven合作項(xiàng)目或許要告一段落。

紐約時(shí)報(bào)30日?qǐng)?bào)道，谷歌正在制定一套準(zhǔn)則，以指導(dǎo)其參與開發(fā)用于軍事的AI工具。這些指導(dǎo)準(zhǔn)則究竟會(huì)有哪些規(guī)定尚不清楚，但谷歌表示，他們將禁止在武器中使用人工智能。

報(bào)道中還披露了谷歌與五角大樓Maven項(xiàng)目合作一些細(xì)節(jié)：

交易金額非常少，只有900萬美元；

谷歌內(nèi)部對(duì)與軍方的合作爭(zhēng)論非常激烈，所以才引起了十幾人辭職抗議；

李飛飛曾極力反對(duì)，但最終決定是由她的老板、谷歌云首席執(zhí)行官Diane Greene做出的。

一場(chǎng)本可以避免的危機(jī)事件

去年8月，美國(guó)國(guó)防部長(zhǎng)Jim Mattis到硅谷訪問谷歌高層。

次月，谷歌有史以來第一份與五角大樓的AI合同出現(xiàn)，幾名谷歌高管討論這份合同的可行性，其中包括李飛飛。

李飛飛強(qiáng)烈建議回避“AI”這兩個(gè)字母。后來她在給《紐約時(shí)報(bào)》的一封電子郵件中寫道，谷歌應(yīng)該“不惜一切代價(jià)避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的話題之一”。如果谷歌與軍方合作，對(duì)媒體來說是“red meat”。

“我不知道如果媒體開始錯(cuò)誤報(bào)道谷歌正在秘密制造人工智能武器或人工智能技術(shù)來為國(guó)防工業(yè)提供武器，會(huì)產(chǎn)生什么后果。”李飛飛說，“我相信以人為中心的AI能以積極、善意的方式造福人類。任何AI武器化的項(xiàng)目，都是違背我的原則的。”

后來發(fā)生的4000人聯(lián)名上書、十幾人集體辭職抗議的事實(shí)證明，李飛飛的預(yù)見是對(duì)的，但她的反對(duì)沒有起到作用。最終，李飛飛的上司、谷歌云首席執(zhí)行官Diane Greene決定跟軍方合作。

更嚴(yán)重的是，谷歌也沒有將與Maven項(xiàng)目合作的事情對(duì)外公布，直到有部分員工開始在谷歌強(qiáng)大的內(nèi)部溝通平臺(tái)上反對(duì)時(shí)，事情才慢慢被更多人知曉，隨后便引發(fā)出了后續(xù)一連串的事件。

被媒體和谷歌員工關(guān)注的Maven項(xiàng)目，是使用機(jī)器學(xué)習(xí)來識(shí)別無人機(jī)鏡頭中的車輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。谷歌向國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API，以幫助軍事分析人員檢測(cè)圖像中的物體。

另據(jù)Wired報(bào)道，Maven項(xiàng)目正在拓展，包括更廣泛地部署無人機(jī)監(jiān)視算法。Maven項(xiàng)目負(fù)責(zé)人Jack Shanahan表示，他的團(tuán)隊(duì)現(xiàn)在正在“完善”無人機(jī)飛行的算法，并將很快在高空偵察機(jī)上工作。

此外，Shanahan還說，Maven項(xiàng)目未來會(huì)將人工智能應(yīng)用于新的軍事領(lǐng)域。其中包括是利用機(jī)器學(xué)習(xí)算法來幫助分析人員在獲取的硬盤上查找最重要的資料。

交易金額“僅”900萬美元，谷歌內(nèi)部大討論

當(dāng)與國(guó)防部合作的消息在內(nèi)部泄露到時(shí)，Diane Greene在每周的全公司TGIF（Thanks God, it's Friday）會(huì)議上發(fā)言。據(jù)兩名知情人士透露，她解釋說該項(xiàng)目不是為了致命目的，而且這筆交易價(jià)值“僅”900萬美元，是一筆相對(duì)較小的交易。

不過，Diane Greene的解釋并沒有遏制員工們憤怒。

另據(jù)Gizmodo報(bào)道，除了Maven項(xiàng)目外，五角大樓另一項(xiàng)價(jià)值上百億美元的云計(jì)算JEDI項(xiàng)目（the Joint Enterprise Defense Infrastructure，聯(lián)合企業(yè)國(guó)防基建項(xiàng)目）正在競(jìng)標(biāo)，IBM和微軟證實(shí)了他們對(duì)JEDI合同有興趣，谷歌員工擔(dān)心谷歌會(huì)參與項(xiàng)目招標(biāo)，因此對(duì)谷歌與軍方的任何合作都保持警惕。

谷歌在4月11日舉行了一場(chǎng)討論，參加的有Diane Greene、谷歌AI研究員Meredith Whittaker（反Maven運(yùn)動(dòng)的領(lǐng)導(dǎo)者）、以及谷歌副總裁Vint Cerf等。由于關(guān)注度非常高，討論在一天內(nèi)進(jìn)行了三次，以供谷歌在全球不同地區(qū)的員工觀看。

據(jù)觀看討論的員工透露，Greene堅(jiān)定地認(rèn)為，Maven項(xiàng)目沒有將AI用于攻擊目的，而Meredith Whittaker認(rèn)為很難界定如何使用該技術(shù)。

上周四，谷歌聯(lián)合創(chuàng)始人SergeyBrin在全公司會(huì)議上回答了關(guān)于Maven工作的一個(gè)問題。

據(jù)兩名谷歌員工稱，SergeyBrin表示他理解這一爭(zhēng)議，并與Larry Page和Sundar Pichai進(jìn)行了廣泛的討論。不過，他表示，如果世界各國(guó)的軍隊(duì)都與谷歌這樣的國(guó)際組織合作，而不是僅僅與民族主義的國(guó)防承包商合作，這將有利于和平。

谷歌擬制定原則：禁止把人工智能應(yīng)用到武器中

谷歌CEO Pichai也在上周四的全公司會(huì)議上表示，谷歌希望制定出“能夠經(jīng)受住時(shí)間考驗(yàn)”的指導(dǎo)原則，這些原則將指導(dǎo)其在國(guó)防和情報(bào)外包領(lǐng)域的合作。一些員工們透露，谷歌預(yù)計(jì)在未來幾周內(nèi)將在內(nèi)部宣布這些原則。

紐約時(shí)報(bào)稱，谷歌新制定的原則禁止人工智能應(yīng)用到武器中，但目前還不清楚這種禁令將如何在實(shí)踐中應(yīng)用。

谷歌及其母公司Alphabet公司雇傭了許多世界頂級(jí)的人工智能研究人員。這些研究人員中的許多人最近都來自學(xué)術(shù)界，有些人保留了教授職位，其中包括Geoff Hinton。

Geoff Hinton一直公開表示他不愿意為美國(guó)政府工作，20世紀(jì)80年代后期，Hinton離開美國(guó)去加拿大的部分原因是他不愿意從國(guó)防部獲得資金。

谷歌人工智能統(tǒng)帥Jeff Dean也在本月的開發(fā)者大會(huì)上說，他已經(jīng)簽署了一封反對(duì)使用所謂自主武器的聯(lián)名信。

而谷歌旗下的DeepMind的創(chuàng)始人之一Mustafa Suleyman也參與了與谷歌領(lǐng)導(dǎo)層對(duì)Maven項(xiàng)目政策的討論。

Maven項(xiàng)目?jī)叭怀闪斯雀璧囊粓?chǎng)“真理標(biāo)準(zhǔn)問題大討論”。

這件事不僅給谷歌員工造成重創(chuàng)，引發(fā)了激烈的員工會(huì)議和內(nèi)部調(diào)換，并促使一些員工辭職。一些人選擇辭職的員工認(rèn)為，Maven項(xiàng)目讓谷歌鼓勵(lì)員工自由表達(dá)的工作環(huán)境不復(fù)存在了。而在谷歌紐約市辦事處還被貼上了“做正確的事”的貼紙。

這也讓包括李飛飛在內(nèi)的一些谷歌高級(jí)人員感到悲痛，他們?cè)噲D跨過一個(gè)鴻溝：即道德上有強(qiáng)烈反對(duì)意見的科學(xué)家和對(duì)國(guó)防合同垂涎的銷售人員之間的鴻溝。

但鴻溝真的容易跨越嗎？