谷歌與軍方合作的Maven項(xiàng)目持續(xù)發(fā)酵，繼數(shù)月前谷歌3000多名員工內(nèi)部上書(shū)之后，十幾名谷歌員工正在集體請(qǐng)辭以示抗議。同時(shí)，國(guó)際機(jī)器人武器控制委員會(huì)（ICRAC）也向佩奇、Pichai、Diane Greene和李飛飛發(fā)出了一封公開(kāi)信，呼吁谷歌退出軍方項(xiàng)目，并承諾不將其技術(shù)武器化。

谷歌首次迎來(lái)大規(guī)模辭職潮。

Gizmodo周一報(bào)道，有十幾名谷歌員工正在辭職，以抗議公司繼續(xù)參與軍方的Maven項(xiàng)目。

同時(shí)，國(guó)際機(jī)器人武器控制委員會(huì)（ICRAC）也向Alphabet CEO拉里·佩奇、谷歌CEO Pichai、谷歌云CEO Diane Greene和李飛飛發(fā)出了一封公開(kāi)信，呼吁谷歌退出軍方項(xiàng)目，并承諾不將其技術(shù)武器化。

谷歌促進(jìn)了一種開(kāi)放的文化，鼓勵(lì)員工挑戰(zhàn)和討論產(chǎn)品決策。但一些辭職的員工表示，高管們對(duì)有爭(zhēng)議的商業(yè)決策的態(tài)度已經(jīng)變得不那么透明了，他們似乎不太愿意聽(tīng)取員工的反對(duì)意見(jiàn)。

在“不作惡”和“做正確的事”之間，谷歌遇到了道德困境。

Maven項(xiàng)目仍在繼續(xù)，谷歌第一次出現(xiàn)抗議引發(fā)的離職潮

三個(gè)月前，近4000名谷歌員工發(fā)出一份內(nèi)部請(qǐng)?jiān)笗?shū)，呼吁谷歌停止跟軍方合作的Maven項(xiàng)目。

Maven項(xiàng)目是使用機(jī)器學(xué)習(xí)來(lái)識(shí)別無(wú)人機(jī)鏡頭中的車(chē)輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。

根據(jù)五角大樓的說(shuō)法，Maven最初的目標(biāo)是為軍方提供先進(jìn)的計(jì)算機(jī)視覺(jué)，能夠自動(dòng)檢測(cè)和識(shí)別無(wú)人機(jī)全動(dòng)態(tài)攝像機(jī)捕獲的多達(dá)38種物體。Maven能提供跟蹤來(lái)自不同地點(diǎn)的能力。

這個(gè)項(xiàng)目曝光后，谷歌發(fā)言人在一份聲明中說(shuō)，它向國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API，以幫助軍事分析人員檢測(cè)圖像中的物體。同時(shí)也承認(rèn)使用機(jī)器學(xué)習(xí)用于軍事目的的爭(zhēng)議性。該發(fā)言人表示，該公司正在圍繞其使用開(kāi)展“制定政策和保障措施”。

然而，來(lái)自近4000名員工的壓力似乎沒(méi)有影響谷歌的決定，谷歌聲稱它只向Maven項(xiàng)目提供開(kāi)源軟件，并且，“制定政策和保障措施”到現(xiàn)在也沒(méi)看到進(jìn)展。

更重要的是，五角大樓另一項(xiàng)價(jià)值上百億美元的云計(jì)算JEDI項(xiàng)目（the Joint Enterprise Defense Infrastructure，聯(lián)合企業(yè)國(guó)防基建項(xiàng)目）正在競(jìng)標(biāo)，IBM和微軟證實(shí)了他們對(duì)JEDI合同有興趣，谷歌員工擔(dān)心谷歌會(huì)參與項(xiàng)目招標(biāo)。

谷歌遭集體反對(duì)的情況并不多，距離上次出現(xiàn)大規(guī)模反對(duì)或抗議的事件發(fā)生在2015年。

當(dāng)時(shí)谷歌博客Blogger發(fā)布禁令，把所有含色情內(nèi)容的博客強(qiáng)制轉(zhuǎn)為私密狀態(tài)。此舉隨后遭到大量用戶的反對(duì)。最終，谷歌撤回了對(duì)Blogger色情禁令，決定只對(duì)“商業(yè)化”的***內(nèi)容進(jìn)行限制。

這次十幾名員工辭職，Gizmodo稱是谷歌出現(xiàn)的第一次大規(guī)模離職潮，一些正在離職的員工表示，管理層對(duì)于有爭(zhēng)議的業(yè)務(wù)決策變得不那么透明，并且似乎不像以前那樣傾聽(tīng)員工的反對(duì)意見(jiàn)。

從歷史上看，谷歌在內(nèi)部推廣了一種鼓勵(lì)員工挑戰(zhàn)和討論產(chǎn)品決策的開(kāi)放文化。但是一些員工認(rèn)為他們的領(lǐng)導(dǎo)不再關(guān)心他們的擔(dān)憂，而讓他們直接面對(duì)后果。“在過(guò)去的幾個(gè)月里，我對(duì)這種回應(yīng)以及處理方式越來(lái)越失望?！币晃晦o職的員工說(shuō)。

給佩奇、Pichai、Diane Greene和李飛飛的公開(kāi)信：結(jié)束Maven項(xiàng)目，支持禁止自主武器系統(tǒng)的國(guó)際條約

今天，國(guó)際機(jī)器人武器控制委員會(huì)（ICRAC）發(fā)布一封聯(lián)名公開(kāi)信，超過(guò)300位人工智能、倫理學(xué)和計(jì)算機(jī)科學(xué)等領(lǐng)域的學(xué)者公開(kāi)呼吁，要求Google結(jié)束Maven項(xiàng)目的工作并支持禁止自主武器系統(tǒng)的國(guó)際條約。

這封公開(kāi)信的兩位發(fā)起人Peter Asaro和Lucy Suchman已經(jīng)在聯(lián)合國(guó)面前聽(tīng)證了自動(dòng)武器報(bào)告;第三位發(fā)起人Lilly Irani是位科學(xué)教授，同時(shí)也是谷歌前雇員。

Suchman告訴Gizmodo，谷歌參與Maven項(xiàng)目可能會(huì)加速完全自主武器的開(kāi)發(fā)。她說(shuō)，盡管谷歌位于美國(guó)，但它有義務(wù)保護(hù)其全球用戶群，這比任何單一國(guó)家的軍隊(duì)都重要。

以下是公開(kāi)信全文：

致

Alphabet CEO拉里·佩奇

谷歌CEO Sundar Pichai

谷歌云CEO Diane Greene

谷歌云首席科學(xué)家、副總裁李飛飛：

作為學(xué)習(xí)、研究、教授和發(fā)展信息技術(shù)的學(xué)者，我們團(tuán)結(jié)一致地支持3100多名谷歌員工以及其他反對(duì)谷歌參與Maven項(xiàng)目的技術(shù)人員。

我們?nèi)χС炙麄円蠊雀杞K止與國(guó)防部的合同，并且要求谷歌及其母公司Alphabet承諾不開(kāi)發(fā)軍事技術(shù)、不將收集的個(gè)人數(shù)據(jù)用于軍事目的。軍事資金對(duì)計(jì)算機(jī)研究和發(fā)展的驅(qū)動(dòng)力不應(yīng)該決定該領(lǐng)域的前進(jìn)方向。我們還敦促谷歌和Alphabet的高管加入其他人工智能和機(jī)器人技術(shù)研究人員和技術(shù)高管的行列，一起呼吁簽署一項(xiàng)禁止自主武器系統(tǒng)的國(guó)際條約。

長(zhǎng)期以來(lái)，谷歌一直致力于組織和提高世界信息的有效性。除了在互聯(lián)網(wǎng)上提供搜索相關(guān)的網(wǎng)頁(yè)，谷歌還負(fù)責(zé)編輯我們的電子郵件、視頻、日歷和照片，并引導(dǎo)我們到到達(dá)目的地。和許多其他數(shù)字技術(shù)公司一樣，谷歌收集了大量關(guān)于用戶行為、活動(dòng)和興趣的數(shù)據(jù)。谷歌不能僅利用這些數(shù)據(jù)改進(jìn)自己的技術(shù)和擴(kuò)大業(yè)務(wù)，還應(yīng)該造福社會(huì)。公司的座右銘是“不作惡”，這是眾所周知的責(zé)任。

Maven是美國(guó)的一個(gè)軍事項(xiàng)目，目的是利用機(jī)器學(xué)習(xí)來(lái)分析大量的無(wú)人機(jī)監(jiān)控錄像，并為人類(lèi)分析員提供感興趣的對(duì)象。谷歌不僅提供了開(kāi)源的“深度學(xué)習(xí)”技術(shù)，還提供了工程專業(yè)知識(shí)和對(duì)國(guó)防部的幫助。

據(jù)防務(wù)周刊報(bào)道，聯(lián)合特種作戰(zhàn)部隊(duì)“在中東”進(jìn)行了初步試驗(yàn)，使用了一架小型掃描鷹偵察機(jī)的視頻片段。該項(xiàng)目計(jì)劃在明年夏天之前擴(kuò)展到“更大、中等高度的Predator 和Reaper無(wú)人機(jī)中”，并最終應(yīng)用到Gorgon Stare項(xiàng)目中，這是“一個(gè)復(fù)雜的高科技系列相機(jī)……可以俯瞰整個(gè)城鎮(zhèn)?！蓖ㄟ^(guò)Maven項(xiàng)目，谷歌與有受爭(zhēng)議的、有針對(duì)性的殺戮行為有牽連。這包括所謂的“簽名罷工”和“生活模式”攻擊，目標(biāo)人群不是基于已知的活動(dòng)，而是基于從遠(yuǎn)程監(jiān)控錄像中得出的概率。這些行動(dòng)的合法性受到國(guó)際和美國(guó)法律的質(zhì)疑。同時(shí)，這些行動(dòng)也暴露了在目標(biāo)識(shí)別和罷工分析中，關(guān)于種族和性別偏見(jiàn)的重大問(wèn)題（最臭名昭著的是，將成年男性作為激進(jìn)分子的籠統(tǒng)分類(lèi)）。這些問(wèn)題不能依靠圖像分析算法的準(zhǔn)確性，只能通過(guò)對(duì)國(guó)際機(jī)構(gòu)的問(wèn)責(zé)和加深對(duì)實(shí)地地緣政治局勢(shì)的了解來(lái)解決。

雖然目前關(guān)于項(xiàng)目Maven的報(bào)告強(qiáng)調(diào)了人類(lèi)分析人員的作用，但這些技術(shù)將成為自動(dòng)目標(biāo)識(shí)別和自動(dòng)武器系統(tǒng)的基礎(chǔ)。當(dāng)軍事指揮官們認(rèn)為目標(biāo)識(shí)別算法是可靠的，它將會(huì)削弱甚至消除對(duì)這些系統(tǒng)的人類(lèi)審查和監(jiān)督。根據(jù)國(guó)防部的說(shuō)法，國(guó)防部已經(jīng)計(jì)劃在無(wú)人機(jī)上安裝圖像分析技術(shù)，包括武裝無(wú)人機(jī)。因此，我們距離授權(quán)自動(dòng)無(wú)人機(jī)自主殺戮，而不需要人工監(jiān)控，只需要一小步。

如果對(duì)科技公司而言，其道德行為需要考慮誰(shuí)可以從技術(shù)中受益，誰(shuí)可能受到損害，那么我們可以肯定地說(shuō)，這個(gè)話題值得更冷靜的反思——沒(méi)有比目的是在遠(yuǎn)方瞄準(zhǔn)、殺人，而且不受公共問(wèn)責(zé)制約的技術(shù)風(fēng)險(xiǎn)更高。

我們還深切關(guān)注谷歌可能將人們?nèi)粘Ｉ畹臄?shù)據(jù)與軍事監(jiān)控?cái)?shù)據(jù)結(jié)合，并將其聯(lián)合應(yīng)用于有針對(duì)性的殺戮。谷歌已經(jīng)進(jìn)入了軍事領(lǐng)域，沒(méi)有在國(guó)內(nèi)或國(guó)際上進(jìn)行公開(kāi)辯論或?qū)徸h。雖然谷歌經(jīng)常在沒(méi)有民主的公眾參與之下決定技術(shù)的未來(lái)，但它加入軍事技術(shù)這一行為更加凸顯了信息基礎(chǔ)設(shè)施的隱私控制問(wèn)題。

如果谷歌決定將全球互聯(lián)網(wǎng)用戶的個(gè)人數(shù)據(jù)用于軍事目的，那么它將侵犯公眾的信任，因?yàn)樗鼘⒂脩舻纳腿藱?quán)置于危險(xiǎn)之中。像谷歌這樣跨國(guó)公司的責(zé)任必須與他們的用戶的跨國(guó)化相匹配。根據(jù)谷歌所考慮的國(guó)防部合同，以及微軟和亞馬遜已經(jīng)實(shí)施的類(lèi)似合同，這樣的做法標(biāo)志著擁有大量全球敏感私人數(shù)據(jù)的科技公司與一個(gè)國(guó)家軍隊(duì)的危險(xiǎn)聯(lián)盟。它們還表明，谷歌未能與全球公民社會(huì)和外交機(jī)構(gòu)進(jìn)行接觸，這些機(jī)構(gòu)已經(jīng)強(qiáng)調(diào)這些技術(shù)的道德風(fēng)險(xiǎn)。

我們正處于關(guān)鍵時(shí)刻。劍橋分析公司(Cambridge Analytica)的丑聞表明，公眾越來(lái)越擔(dān)心科技行業(yè)將擁有如此大的權(quán)力。這使得信息技術(shù)基礎(chǔ)設(shè)施的風(fēng)險(xiǎn)越來(lái)越高，以及當(dāng)前國(guó)家和國(guó)際治理框架不足以維護(hù)公眾的信任。這種情況比從事裁決生命和死亡的系統(tǒng)更為真實(shí)。

因此，我們要求谷歌及其母公司Alphabet：

終止與國(guó)防部的Maven項(xiàng)目合同。

承諾不開(kāi)發(fā)軍事技術(shù)，也不允許其收集的個(gè)人數(shù)據(jù)用于軍事行動(dòng)。

承諾不參與或支持發(fā)展、制造、貿(mào)易或使用自主武器；并支持禁止自主武器。