谷歌與軍方合作的Maven項目持續(xù)發(fā)酵，繼數(shù)月前谷歌3000多名員工內部上書之后，十幾名谷歌員工正在集體請辭以示抗議。同時，國際機器人武器控制委員會（ICRAC）也向佩奇、Pichai、Diane Greene和李飛飛發(fā)出了一封公開信，呼吁谷歌退出軍方項目，并承諾不將其技術武器化。

谷歌首次迎來大規(guī)模辭職潮。

Gizmodo周一報道，有十幾名谷歌員工正在辭職，以抗議公司繼續(xù)參與軍方的Maven項目。

同時，國際機器人武器控制委員會（ICRAC）也向Alphabet CEO拉里·佩奇、谷歌CEO Pichai、谷歌云CEO Diane Greene和李飛飛發(fā)出了一封公開信，呼吁谷歌退出軍方項目，并承諾不將其技術武器化。

谷歌促進了一種開放的文化，鼓勵員工挑戰(zhàn)和討論產(chǎn)品決策。但一些辭職的員工表示，高管們對有爭議的商業(yè)決策的態(tài)度已經(jīng)變得不那么透明了，他們似乎不太愿意聽取員工的反對意見。

在“不作惡”和“做正確的事”之間，谷歌遇到了道德困境。

Maven項目仍在繼續(xù)，谷歌第一次出現(xiàn)抗議引發(fā)的離職潮

三個月前，近4000名谷歌員工發(fā)出一份內部請愿書，呼吁谷歌停止跟軍方合作的Maven項目。

Maven項目是使用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。

根據(jù)五角大樓的說法，Maven最初的目標是為軍方提供先進的計算機視覺，能夠自動檢測和識別無人機全動態(tài)攝像機捕獲的多達38種物體。Maven能提供跟蹤來自不同地點的能力。

這個項目曝光后，谷歌發(fā)言人在一份聲明中說，它向國防部提供用于機器學習應用的TensorFlow API，以幫助軍事分析人員檢測圖像中的物體。同時也承認使用機器學習用于軍事目的的爭議性。該發(fā)言人表示，該公司正在圍繞其使用開展“制定政策和保障措施”。

然而，來自近4000名員工的壓力似乎沒有影響谷歌的決定，谷歌聲稱它只向Maven項目提供開源軟件，并且，“制定政策和保障措施”到現(xiàn)在也沒看到進展。

更重要的是，五角大樓另一項價值上百億美元的云計算JEDI項目（the Joint Enterprise Defense Infrastructure，聯(lián)合企業(yè)國防基建項目）正在競標，IBM和微軟證實了他們對JEDI合同有興趣，谷歌員工擔心谷歌會參與項目招標。

谷歌遭集體反對的情況并不多，距離上次出現(xiàn)大規(guī)模反對或抗議的事件發(fā)生在2015年。

當時谷歌博客Blogger發(fā)布禁令，把所有含色情內容的博客強制轉為私密狀態(tài)。此舉隨后遭到大量用戶的反對。最終，谷歌撤回了對Blogger色情禁令，決定只對“商業(yè)化”的***內容進行限制。

這次十幾名員工辭職，Gizmodo稱是谷歌出現(xiàn)的第一次大規(guī)模離職潮，一些正在離職的員工表示，管理層對于有爭議的業(yè)務決策變得不那么透明，并且似乎不像以前那樣傾聽員工的反對意見。

從歷史上看，谷歌在內部推廣了一種鼓勵員工挑戰(zhàn)和討論產(chǎn)品決策的開放文化。但是一些員工認為他們的領導不再關心他們的擔憂，而讓他們直接面對后果?！霸谶^去的幾個月里，我對這種回應以及處理方式越來越失望?！币晃晦o職的員工說。

給佩奇、Pichai、Diane Greene和李飛飛的公開信：結束Maven項目，支持禁止自主武器系統(tǒng)的國際條約

今天，國際機器人武器控制委員會（ICRAC）發(fā)布一封聯(lián)名公開信，超過300位人工智能、倫理學和計算機科學等領域的學者公開呼吁，要求Google結束Maven項目的工作并支持禁止自主武器系統(tǒng)的國際條約。

這封公開信的兩位發(fā)起人Peter Asaro和Lucy Suchman已經(jīng)在聯(lián)合國面前聽證了自動武器報告;第三位發(fā)起人Lilly Irani是位科學教授，同時也是谷歌前雇員。

Suchman告訴Gizmodo，谷歌參與Maven項目可能會加速完全自主武器的開發(fā)。她說，盡管谷歌位于美國，但它有義務保護其全球用戶群，這比任何單一國家的軍隊都重要。

以下是公開信全文：

致

Alphabet CEO拉里·佩奇

谷歌CEO Sundar Pichai

谷歌云CEO Diane Greene

谷歌云首席科學家、副總裁李飛飛：

作為學習、研究、教授和發(fā)展信息技術的學者，我們團結一致地支持3100多名谷歌員工以及其他反對谷歌參與Maven項目的技術人員。

我們全力支持他們要求谷歌終止與國防部的合同，并且要求谷歌及其母公司Alphabet承諾不開發(fā)軍事技術、不將收集的個人數(shù)據(jù)用于軍事目的。軍事資金對計算機研究和發(fā)展的驅動力不應該決定該領域的前進方向。我們還敦促谷歌和Alphabet的高管加入其他人工智能和機器人技術研究人員和技術高管的行列，一起呼吁簽署一項禁止自主武器系統(tǒng)的國際條約。

長期以來，谷歌一直致力于組織和提高世界信息的有效性。除了在互聯(lián)網(wǎng)上提供搜索相關的網(wǎng)頁，谷歌還負責編輯我們的電子郵件、視頻、日歷和照片，并引導我們到到達目的地。和許多其他數(shù)字技術公司一樣，谷歌收集了大量關于用戶行為、活動和興趣的數(shù)據(jù)。谷歌不能僅利用這些數(shù)據(jù)改進自己的技術和擴大業(yè)務，還應該造福社會。公司的座右銘是“不作惡”，這是眾所周知的責任。

Maven是美國的一個軍事項目，目的是利用機器學習來分析大量的無人機監(jiān)控錄像，并為人類分析員提供感興趣的對象。谷歌不僅提供了開源的“深度學習”技術，還提供了工程專業(yè)知識和對國防部的幫助。

據(jù)防務周刊報道，聯(lián)合特種作戰(zhàn)部隊“在中東”進行了初步試驗，使用了一架小型掃描鷹偵察機的視頻片段。該項目計劃在明年夏天之前擴展到“更大、中等高度的Predator 和Reaper無人機中”，并最終應用到Gorgon Stare項目中，這是“一個復雜的高科技系列相機……可以俯瞰整個城鎮(zhèn)?！蓖ㄟ^Maven項目，谷歌與有受爭議的、有針對性的殺戮行為有牽連。這包括所謂的“簽名罷工”和“生活模式”攻擊，目標人群不是基于已知的活動，而是基于從遠程監(jiān)控錄像中得出的概率。這些行動的合法性受到國際和美國法律的質疑。同時，這些行動也暴露了在目標識別和罷工分析中，關于種族和性別偏見的重大問題（最臭名昭著的是，將成年男性作為激進分子的籠統(tǒng)分類）。這些問題不能依靠圖像分析算法的準確性，只能通過對國際機構的問責和加深對實地地緣政治局勢的了解來解決。

雖然目前關于項目Maven的報告強調了人類分析人員的作用，但這些技術將成為自動目標識別和自動武器系統(tǒng)的基礎。當軍事指揮官們認為目標識別算法是可靠的，它將會削弱甚至消除對這些系統(tǒng)的人類審查和監(jiān)督。根據(jù)國防部的說法，國防部已經(jīng)計劃在無人機上安裝圖像分析技術，包括武裝無人機。因此，我們距離授權自動無人機自主殺戮，而不需要人工監(jiān)控，只需要一小步。

如果對科技公司而言，其道德行為需要考慮誰可以從技術中受益，誰可能受到損害，那么我們可以肯定地說，這個話題值得更冷靜的反思——沒有比目的是在遠方瞄準、殺人，而且不受公共問責制約的技術風險更高。

我們還深切關注谷歌可能將人們日常生活的數(shù)據(jù)與軍事監(jiān)控數(shù)據(jù)結合，并將其聯(lián)合應用于有針對性的殺戮。谷歌已經(jīng)進入了軍事領域，沒有在國內或國際上進行公開辯論或審議。雖然谷歌經(jīng)常在沒有民主的公眾參與之下決定技術的未來，但它加入軍事技術這一行為更加凸顯了信息基礎設施的隱私控制問題。

如果谷歌決定將全球互聯(lián)網(wǎng)用戶的個人數(shù)據(jù)用于軍事目的，那么它將侵犯公眾的信任，因為它將用戶的生命和人權置于危險之中。像谷歌這樣跨國公司的責任必須與他們的用戶的跨國化相匹配。根據(jù)谷歌所考慮的國防部合同，以及微軟和亞馬遜已經(jīng)實施的類似合同，這樣的做法標志著擁有大量全球敏感私人數(shù)據(jù)的科技公司與一個國家軍隊的危險聯(lián)盟。它們還表明，谷歌未能與全球公民社會和外交機構進行接觸，這些機構已經(jīng)強調這些技術的道德風險。

我們正處于關鍵時刻。劍橋分析公司(Cambridge Analytica)的丑聞表明，公眾越來越擔心科技行業(yè)將擁有如此大的權力。這使得信息技術基礎設施的風險越來越高，以及當前國家和國際治理框架不足以維護公眾的信任。這種情況比從事裁決生命和死亡的系統(tǒng)更為真實。

因此，我們要求谷歌及其母公司Alphabet：

終止與國防部的Maven項目合同。

承諾不開發(fā)軍事技術，也不允許其收集的個人數(shù)據(jù)用于軍事行動。

承諾不參與或支持發(fā)展、制造、貿易或使用自主武器；并支持禁止自主武器。