作為擁有先進(jìn)技術(shù)的科技巨頭,，谷歌這樣的公司不免會與軍事計(jì)劃產(chǎn)生聯(lián)系,。在有侵犯隱私、違背倫理的風(fēng)險(xiǎn)下,，是否應(yīng)該接下巨額合同,？最近,，聽聞公司正在參與美國國防部「Project Maven」AI 軍事計(jì)劃，很多谷歌員工發(fā)起了抵制,，他們上書 CEO Sundar Pichai 的公開信現(xiàn)在已經(jīng)獲得了數(shù)千人的聯(lián)名簽署,。

五角大樓項(xiàng)目「Project Maven」主要應(yīng)用深度學(xué)習(xí)計(jì)算機(jī)視覺技術(shù)，旨在幫助國防部門從圖像和視頻中提取值得注意的對象,。該項(xiàng)目是在 2017 年 4 月由時(shí)任副國防部長 Bob Work 在一份備忘錄中首次披露的,。目前，美國已經(jīng)成立了一個(gè)算法戰(zhàn)爭混合任務(wù)團(tuán)隊(duì)（Algorithmic Warfare Cross-Functional Team）,，由國防情報(bào)局副部長監(jiān)督,。

數(shù)千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個(gè)旨在提高無人機(jī)打擊能力的項(xiàng)目。（圖源：Michael Short/Bloomberg）

近日,，數(shù)千名谷歌員工（包括數(shù)十名高級工程師）簽署了一份聯(lián)名信函,，抗議該公司參與五角大樓的一個(gè)項(xiàng)目，該項(xiàng)目利用人工智能解讀視頻圖像,，旨在提高無人機(jī)打擊的精準(zhǔn)度,。

該信函在谷歌內(nèi)部迅速流傳開來，已有超過 3100 人簽名,，反映了硅谷與聯(lián)邦政府之間的文化沖突,。隨著人工智能前沿技術(shù)越來越多地用于軍事領(lǐng)域，這種沖突可能會愈演愈烈,。

信是寫給谷歌 CEO Sundar Pichai 的,。信中寫道：「我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭?！剐胖幸蠊雀璩烦鑫褰谴髽堑脑圏c(diǎn)項(xiàng)目 Project Maven,，并宣布永遠(yuǎn)不會「發(fā)展戰(zhàn)爭技術(shù)」。

當(dāng)然,，這種理想主義的想法并不是所有谷歌員工都認(rèn)同的,，但對于一家以「不作惡」（信中也有引用）為座右銘的公司來說，提出這種想法是很正常的,。但這顯然與華盛頓龐大的國防工業(yè)不同,，當(dāng)然也與五角大樓不同。現(xiàn)任美國國防部長 Jim Mattis 經(jīng)常說,，五角大樓的中心目標(biāo)是提高美國軍隊(duì)的「殺傷力」,。

從早期開始，谷歌就鼓勵員工就涉及公司的問題發(fā)表意見,。該公司提供了內(nèi)部留言板和社交網(wǎng)絡(luò),，員工可以在這些平臺上就公司的產(chǎn)品和政策向管理層或同事提出意見。最近,，圍繞谷歌努力打造一支更加多元化的員工隊(duì)伍的激烈辯論日益公開化,。

谷歌員工已就一系列問題發(fā)出了抗議請?jiān)笗ㄔ摴韭浜笥?Facebook 的社交網(wǎng)站 Google Plus 以及谷歌對保守政治行動會議（CPAC）的贊助,。

在最近的一次公司會議上,，員工就谷歌參與 Project Maven 提出質(zhì)疑。當(dāng)時(shí),，谷歌云基礎(chǔ)設(shè)施業(yè)務(wù)主管 Diane Greene 為這一項(xiàng)目辯護(hù),，并試圖安撫相關(guān)員工。公司發(fā)言人表示,，抗議信上的大多數(shù)簽名是在公司對此情況進(jìn)行解釋之前收集的。

該公司隨后將 Project Maven 的工作描述為「非攻擊性的」，盡管五角大樓的視頻分析通常用于反暴動和反恐行動,，國防部也曾發(fā)文表示該項(xiàng)目用于支持這些行動,。谷歌和五角大樓都表示，谷歌的產(chǎn)品不會創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng),，自主武器系統(tǒng)在人工智能應(yīng)用中也有很大爭議,。

對無人機(jī)視頻做進(jìn)一步分析，可以挑選出人類目標(biāo)并實(shí)施襲擊,，換個(gè)角度來說,，這也有助于更好地分辨出平民，以減少無辜者被意外殺害的風(fēng)險(xiǎn),。

谷歌周二發(fā)布的一項(xiàng)聲明并未直接提及這份致 CEO Sundar Pichai 的信函,，聲明中提到：「任何機(jī)器學(xué)習(xí)的軍事化應(yīng)用都會導(dǎo)致人們的合理擔(dān)憂，這是自然的,。我們正在公司內(nèi)部積極鼓勵對該重要議題進(jìn)行充分討論,。」谷歌稱這種交流「非常重要,，也非常有益」,，而熟知信件內(nèi)容的多名谷歌員工僅在匿名條件下發(fā)聲，并表示這是因?yàn)閾?dān)心被報(bào)復(fù),。

該聲明稱谷歌在 Project Maven 中所參與的部分「僅限于非攻擊性的目的」,，雖然官方拒絕提供相關(guān)的合同內(nèi)容。美國國防部稱由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商,，它不能提供谷歌合同或合同內(nèi)容,。ECS Federal 尚未回應(yīng)該詢問。

谷歌稱五角大樓在使用基于未分類數(shù)據(jù)且「對任何谷歌云客戶開放的開源目標(biāo)識別軟件」,。谷歌表示,，「這項(xiàng)技術(shù)用于標(biāo)記圖像，以幫助人工審查,，其目的是把人們從高度單調(diào)的工作中解放出來,。」

谷歌部分高管和五角大樓有密切聯(lián)系,。該公司前執(zhí)行董事長 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執(zhí)行董事會成員）為五角大樓顧問團(tuán) Defence Innovation Board 的成員,，該顧問團(tuán)還包括谷歌副總裁 Milo Medin。

在 11 月份的一個(gè)采訪中,，Mr. Schmidt 承認(rèn)「技術(shù)社區(qū)普遍擔(dān)心軍工行業(yè)會使用他們的成果去錯誤地傷害人類」,。他說他將在董事會中「至少起到交流作用」，并且建議軍方「使用這些技術(shù)來幫助保護(hù)國家安全」,。

谷歌這一小部分對軍事合同感到不安的員工（超過 70000 名）也許并不能對公司的發(fā)展造成大的阻礙,。但在人工智能研究領(lǐng)域中，谷歌正忙于和其它技術(shù)公司激烈「搶人」，因此如果某些候選者被谷歌的辯解所推遲,，這將會造成人事聘用上的麻煩,。

谷歌在內(nèi)部異議中為國防合同辯護(hù)，但與此同時(shí)它的競爭對手并不羞于宣傳自己的國防項(xiàng)目,。亞馬遜向國防部大力宣傳其圖像識別研究成果,，而微軟則表示他們的云技術(shù)已經(jīng)與美國政府簽訂合同，為軍事和國防機(jī)構(gòu)處理機(jī)密信息,。

當(dāng)前的爭論由 Gizmodo 首次報(bào)道,，主要集中在 Project Maven。該試點(diǎn)項(xiàng)目于去年開始,，旨在找到加速軍方應(yīng)用最新 AI 技術(shù)的方式,。五角大樓發(fā)言人表示，預(yù)計(jì)該項(xiàng)目第一年花費(fèi)不到 7000 萬美元,。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規(guī)模的五角大樓合同（人工智能國防應(yīng)用不斷發(fā)展）,。

外界普遍認(rèn)為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年,、價(jià)值數(shù)十億美元的國防部云服務(wù)合同,。國防部首席管理官 John Gibson 在三月份的一次講話中提到：「聯(lián)合企業(yè)國防基礎(chǔ)設(shè)施云（Joint Enterprise Defense Infrastructure Cloud）」采購計(jì)劃的部分目的是「提升殺傷力和做好準(zhǔn)備」，這凸顯了將軟件,、云服務(wù)等相關(guān)服務(wù)與實(shí)際商業(yè)戰(zhàn)爭之間分開的難度,。

谷歌員工寫給 Pichai 的公開信已經(jīng)在谷歌內(nèi)部通信系統(tǒng)中傳播了數(shù)周，信中認(rèn)為,，參與軍事項(xiàng)目可能會疏遠(yuǎn)用戶,，甚至影響未來的人才引進(jìn)。

「這一計(jì)劃將不可挽回地?fù)p害谷歌的品牌和人才吸引力,，」信中提到,，「由于人們越來越擔(dān)心人工智能的偏見與武器化，谷歌爭取用戶信任的道路已經(jīng)越來越難走了,?！乖谖磥恚雀杌蛟S會被視為加入雷神,、通用動力以及 Palantir 這樣的國防承包商行列,。

「其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小,?！剐胖姓f，「谷歌擁有獨(dú)特的歷史,，它的座右銘是『不作惡』（Don't Be Evil）,，谷歌直接觸及數(shù)十億用戶的生活,，這讓它與眾不同?！?/p>

和其它新貴最終成為了強(qiáng)大的硅谷巨人一樣,，谷歌也正被迫面對早年引導(dǎo)公司的理念。Facebook 開始時(shí)的使命是連接世界上所有的人,，但是最近因?yàn)樘摷傧⑶篮捅欢砹_斯用來影響 2016 年的選舉而受到抨擊，此外,，它同樣還被指控在美國選民中傳播異議,。

考慮到谷歌的歷史和五角大樓目前在軍事方面對 AI 的強(qiáng)烈需求，前五角大樓的官員和「Army of None」的作者 Paul Scharre 表示,，這在谷歌內(nèi)部是不可避免的,。

華盛頓新國家安全中心的高級成員 Scharre 說：「技術(shù)開發(fā)者之間存在著強(qiáng)烈的自由主義精神，并且對政府使用技術(shù)會感到擔(dān)憂,。目前,，人工智能突然且快速地從實(shí)驗(yàn)室走出來，邁進(jìn)了現(xiàn)實(shí)生活,，這尤其加劇他們的擔(dān)憂,。」

公開信原文：

親愛的 Sundar：

我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭,。因此,，我們請求公司撤銷 Project Maven，同時(shí)起草,、公布并執(zhí)行一項(xiàng)明確的決策：谷歌及其合約商永不發(fā)展戰(zhàn)爭科技,。

谷歌目前正在實(shí)施 Project Maven，這是一個(gè)定制的 AI 監(jiān)控引擎,，它使用美國政府獲取的「廣域運(yùn)動圖像（Wide Area Motion Imagery）」來檢測汽車和其他物體并追蹤其運(yùn)動,，檢測和追蹤結(jié)果提交給國防部。

最近,，谷歌員工在公司內(nèi)部表示了對 Maven 的擔(dān)憂,。Diane Greene 在回應(yīng)中保證該技術(shù)不會「在無人機(jī)上運(yùn)行」，也「不會被用于武器開發(fā)」,。雖然這排除了極小部分的直接應(yīng)用,，但該技術(shù)是為軍事用途而開發(fā)，一旦交付,，就會輕易被用于這些任務(wù)的輔助工作,。

這一計(jì)劃將對谷歌的品牌及人才吸引力造成不可挽回的傷害。隨著對 AI 偏見化和武器化的恐懼日益加劇,，谷歌谷歌爭取用戶信任的道路已經(jīng)越來越難走了,。而簽署這份協(xié)議,，谷歌將加入 Palantir、雷神,、通用動力等公司的行列,。其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小,。谷歌擁有獨(dú)特的歷史,，它的座右銘是『不作惡』，谷歌直接觸及數(shù)十億用戶的生活,，這讓它與眾不同,。

我們不能把技術(shù)的道德責(zé)任外包給第三方。谷歌宣揚(yáng)的價(jià)值觀清晰地表明：每一個(gè)用戶都在給予我們信任,，永遠(yuǎn)不要辜負(fù)這一點(diǎn),。這個(gè)合同使谷歌的名譽(yù)受到威脅，而且與我們的核心價(jià)值觀相悖,。發(fā)展一項(xiàng)技術(shù)協(xié)助美國政府進(jìn)行軍事監(jiān)控,，而且該技術(shù)可能造成致命結(jié)果，這是不可接受的,。

考慮到谷歌的道德倫理責(zé)任,，以及這對谷歌名譽(yù)的潛在危害，我們請求你：

1. 立即取消這一項(xiàng)目,。

2. 起草,、公布并執(zhí)行一項(xiàng)明確的策略，聲明谷歌及其合約商永遠(yuǎn)不會染指軍事技術(shù),。