2020年初，美國海軍發(fā)布《人工智能技術(shù)安全性》。該報告重點關(guān)注對此項技術(shù)帶來的安全性問題,。美國海軍乃至整個國防部系統(tǒng),，都在嚴(yán)肅認(rèn)真地對待軍事人工智能的發(fā)展。2019 年的 2,、6、9 月，美國先后公布《國防部人工智能戰(zhàn)略》,、《國家人工智能戰(zhàn)略》《空軍人工智能戰(zhàn)略》三大戰(zhàn)略，表明其在國家,、軍隊,、軍種三個層面的“智能化戰(zhàn)略”全面啟動?？煽闯雒绹斯ぶ悄茉谲娛骂I(lǐng)域的發(fā)展態(tài)勢日趨激烈,。

　　一、推出多項政令戰(zhàn)略規(guī)劃,，聚力發(fā)展人工智能

　　人工智能作為驅(qū)動第四次工業(yè)革命的重要引擎,，深刻影響著經(jīng)濟(jì)產(chǎn)業(yè)和各技術(shù)學(xué)科的發(fā)展,，為此美國以國家戰(zhàn)略地位提升對人工智能在社會發(fā)展各領(lǐng)域（ 特別是國防領(lǐng)域） 的動能，以推動人工智能技術(shù)的研發(fā),。2019年10月,，世界經(jīng)濟(jì)論壇發(fā)布制定國家人工智能戰(zhàn)略的框架白皮書，創(chuàng)建了最低限度可行的人工智能國家戰(zhàn)略制定框架,，指出國家人工智能戰(zhàn)略的制定應(yīng)考量具有戰(zhàn)略意義的優(yōu)先事項人口需求資源限制和地緣政治等因素,，旨在指導(dǎo)尚未或正在制定人工智能國家戰(zhàn)略的政府。

　　美國多措并舉,，繼續(xù)把發(fā)展人工智能技術(shù)作為提升國力維護(hù)國家安全的重大戰(zhàn)略,，從國家戰(zhàn)略層面強(qiáng)化人工智能技術(shù)布局。2019年2月,，美國政府科技政策辦公室發(fā)布由美國總統(tǒng)特朗普簽發(fā)的《維持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》行政令,，提出了美國發(fā)展人工智能的政策和原則戰(zhàn)略目標(biāo)和重點領(lǐng)域，啟動旨在推進(jìn)美國在人工智能領(lǐng)域領(lǐng)導(dǎo)地位的美國人工智能倡議,，指示聯(lián)邦政府整合資源,，聚力發(fā)展人工智能。

　　同年2月,，美國國防部公布《2018年國防部人工智能戰(zhàn)略》的摘要部分（ 題為《利用人工智能促進(jìn)安全與繁榮》） ,。該戰(zhàn)略是美國國防部首個人工智能戰(zhàn)略，旨在落實美國政府《國家安全戰(zhàn)略》和《國防戰(zhàn)略》提出的人工智能重要事項,，為美國國防部謀求軍事人工智能優(yōu)勢發(fā)展軍事人工智能實戰(zhàn)化能力提供戰(zhàn)略指導(dǎo),。2019年7月，美國空軍推出數(shù)字空軍計劃,，旨在改進(jìn)其在數(shù)據(jù)管理信息技術(shù)架構(gòu)和業(yè)務(wù)運營方面的不足,，使美國空軍保持競爭力。2019年9月,，美國能源部成立人工智能與技術(shù)辦公室,，旨在為美國人工智能研究人員提供聯(lián)邦數(shù)據(jù)模型和高性能計算資源。2019年9月,，美國空軍以美國《國防部人工智能戰(zhàn)略》附錄形式發(fā)布《2019空軍人工智能戰(zhàn)略》,，詳細(xì)闡釋在數(shù)字時代如何有效管理引導(dǎo)和引領(lǐng)所必須的基本原則職能和目標(biāo)。2020年初,，美國海軍分析中心發(fā)布專題報告《人工智能技術(shù)安全性———對海軍的行動方案建議》,。該報告從當(dāng)前美國海軍推動軍事領(lǐng)域人工智能技術(shù)運用過程中引發(fā)的公眾關(guān)注進(jìn)行介紹入手，提出了海軍乃至整個國防部系統(tǒng)在軍事領(lǐng)域接收采用新興技術(shù)手段的總體態(tài)度與思路,。

　　二,、多家軍事機(jī)構(gòu)開展研發(fā)項目，探索人工智能技術(shù)的軍用新場景

　　作為軍事大國,，美國對于人工智能軍事作戰(zhàn)賦能的目標(biāo)非常清晰,，強(qiáng)力推動美國頂尖人工智能研究走向新的技術(shù)突破,，促進(jìn)科學(xué)新成果的發(fā)現(xiàn)、增強(qiáng)經(jīng)濟(jì)競爭力,、鞏固國家安全,。2019年3月，美國參議院軍事委員會舉行主題為國防部人工智能計劃的聽證會,，美國國防預(yù)先研究計劃局 DARPA,、國防創(chuàng)新小組（ DIU） ,、國防部聯(lián)合人工智能中心（ JAIC）等機(jī)構(gòu)主管分別發(fā)言,，闡述所在部門的人工智能項目及運行機(jī)制等情況，鞏固并強(qiáng)化了人工智能技術(shù)及應(yīng)用與軍方之間的聯(lián)系,，保障美國的人工智能軍用化步伐進(jìn)一步加快,。以DARPA為例，DARPA正將投資和研發(fā)重點轉(zhuǎn)向第三代人工智能技術(shù),，用于創(chuàng)建能在特定語境下進(jìn)行推理的機(jī)器,。資助的主要項目包括終身學(xué)習(xí)機(jī)器（ L2M，2017年啟動）,，可解釋人工智能（ XAI,，2018年啟動）和機(jī)器常識（ MCS，2018年啟動）等,，探索提高人工智能技術(shù)水平的方法,，實現(xiàn)語境推理能力。DARPA認(rèn)為,，將這些技術(shù)集成到與軍事作戰(zhàn)人員合作的軍事系統(tǒng)中,，將有助于在對空間敏感的復(fù)雜戰(zhàn)場環(huán)境中做出及時決策，了解不完整或者相互矛盾的海量信息,，并使用無人系統(tǒng)安全自主地執(zhí)行關(guān)鍵任務(wù),。

　　2019年1月，DARPA啟動知識導(dǎo)向型人工智能推理模式（ KAIROS）項目,，旨在提升面向復(fù)雜戰(zhàn)場環(huán)境挖掘和理解海量信息中的復(fù)雜事件及其相互關(guān)系的能力,。2019年1月，美國陸軍研究實驗室（ ARL）啟動異構(gòu)戰(zhàn)術(shù)環(huán)境中的分布處理（ DPHTE）計劃,，基于霧計算平臺在對抗性軍事環(huán)境中為作戰(zhàn)人員提供更多的態(tài)勢感知,。2019年2月，美國空軍研究實驗室發(fā)布多域戰(zhàn)和目標(biāo)定位支持信息分析項目,，旨在開發(fā)基于算法戰(zhàn)和人工智能等技術(shù),，針對時敏有價值的敵對移動目標(biāo)進(jìn)行快速預(yù)判和打擊。2019年5月,，DARPA啟動旨在將人工智能應(yīng)用于空戰(zhàn)演變（ ACE） 項目,，人工智能空戰(zhàn)應(yīng)用成熟后可替代飛行員完成部分空戰(zhàn)任務(wù),。2019年5月，麻省理工學(xué)院發(fā)布為美國空軍打造人工智能加速器項目,，該項目研究領(lǐng)域包括救災(zāi)和醫(yī)療準(zhǔn)備,、數(shù)據(jù)管理、維護(hù)物流,、車輛安全以及網(wǎng)絡(luò)還原能力,。2019年9月，美國國防部聯(lián)合人工智能中心宣布美國軍方網(wǎng)絡(luò)安全數(shù)據(jù)制定新框架,，重點為未來人工智能網(wǎng)絡(luò)防御體系奠定基礎(chǔ),。

　　2020年初，美國特朗普政府向國會提交2021財年預(yù)算申請,，加速發(fā)展人工智能等技術(shù),。提議政府預(yù)算從2020財年1560億美元削減至1422億美元，下降138億美元,，但預(yù)算申請仍強(qiáng)調(diào)優(yōu)先發(fā)展“未來產(chǎn)業(yè)”,，必須加速發(fā)展人工智能等技術(shù)。其中,，500萬美元用于能源部新立“人工智能與技術(shù)辦公室”,，加強(qiáng)人工智能的項目研發(fā)。

　　三,、夯實人工智能實踐應(yīng)用的道德準(zhǔn)繩和安全邊界

　　隨著人工智能技術(shù)的發(fā)展,，人權(quán)倫理、隱私保障,、歧視偏見,、安全問題等困境日益突出。美國亦在探索中多措并舉,，確保人工智能在充分的監(jiān)督和控制之下發(fā)展,。特別是在2019年發(fā)布的國家級人工智能戰(zhàn)略和2020年初發(fā)布人工智能技術(shù)安全性報告中，將道德,、隱私,、安全等問題擺在突出位置，認(rèn)為應(yīng)在尊重道德,、重視安全的前提下最大限度地發(fā)揮其社會效益,。

　　（一）明確戰(zhàn)爭中使用人工智能技術(shù)的道德原則和標(biāo)準(zhǔn)

　　美國推動多項研究,，闡明美國合法道德地使用人工智能的愿景和指導(dǎo)原則,，引導(dǎo)負(fù)責(zé)任的人工智能應(yīng)用和開發(fā)。2019年1月，美國國防部要求國防創(chuàng)新委員會制定在戰(zhàn)爭中使用人工智能的道德原則,，用以指導(dǎo)軍方在戰(zhàn)爭中使用人工智能技術(shù)和武器,，并向硅谷科技公司確認(rèn)其人工智能產(chǎn)品將如何被使用。美國國防部這一舉措被認(rèn)為旨在形成全球軍用人工智能規(guī)范的指導(dǎo)方針,，并吸引硅谷科技公司參與防御工作,；10月，人工智能原則： 國防部人工智能應(yīng)用倫理的若干建議推出,，被認(rèn)為是美國對軍事人工智能應(yīng)用所導(dǎo)致倫理問題的首次回應(yīng),。2019年1月，美國著名智庫布魯金斯學(xué)會發(fā)布《自動化和人工智能：機(jī)器對人及地區(qū)的影響》報告,，著重分析了過去近30年間的資助系統(tǒng)與人工智能對行業(yè),、就業(yè)、地理和人口的影響,，并對當(dāng)前至2030年的趨勢進(jìn)行了預(yù)測,。最后針對國家、州和地方的政策制定者提出一個綜合響應(yīng)框架,，為人們理解并規(guī)范自動化和人工智能的作用提供參考。

　?。ǘ┤斯ぶ悄軐娛骂I(lǐng)域尚屬新興技術(shù),，安全性不容忽視

　　人類歷史上，充斥著軍隊利用技術(shù)取得軍事優(yōu)勢的實例,。比如戰(zhàn)車,。戰(zhàn)車，是出現(xiàn)在戰(zhàn)場上的第一種車輛裝備,，由民間通用馬車提高速度和機(jī)動性改進(jìn)而來,，在軍事運用方面取得了顯著的優(yōu)勢。戰(zhàn)車被描述為當(dāng)時的“超級武器”,。又比如火藥,。火藥源起于一個偶然發(fā)現(xiàn),，它的出現(xiàn),，使得軍隊能夠駕馭化學(xué)反應(yīng)能量來提高速度與威力，由此徹底改變了戰(zhàn)爭的形態(tài)和樣式,。再比如內(nèi)燃機(jī),。這種發(fā)動機(jī)繼承并發(fā)展了蒸汽機(jī)的優(yōu)勢，改變了戰(zhàn)爭活動的速度與范圍,。對內(nèi)燃機(jī)的應(yīng)用方案,，包括為后勤物流（補(bǔ)給運輸卡車）提供動力以及為潛艇、飛機(jī)與導(dǎo)彈賦予持久的遠(yuǎn)程監(jiān)視及打擊能力,。

　　對大多數(shù)技術(shù)手段的接收和運用,，一度都曾起到了改變了戰(zhàn)爭樣式的作用,。而其中有幾項，更是徹底顛覆了以往戰(zhàn)爭活動的樣式和范圍,，其中便包括火藥與核武器,。人工智能技術(shù)，亦被認(rèn)為位居此類,。此項技術(shù)能夠應(yīng)用于整個戰(zhàn)爭事業(yè)的方方面面,，大幅提高了戰(zhàn)爭活動的效能與效率。各類人工智能技術(shù),，也因其各自獨有的特性而有所區(qū)別,。首先應(yīng)注意到，現(xiàn)實世界中人工智能技術(shù)應(yīng)用方案,，是用以解決特定領(lǐng)域問題的狹義人工智能技術(shù),，而非具備普遍通用性的通用人工智能技術(shù)應(yīng)用方案。人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用,，可以與美國軍隊對核武器的運用方式進(jìn)行類比：安全方面的關(guān)鍵性技術(shù)領(lǐng)域知識,，必須在很大程度上由軍隊文職機(jī)構(gòu)掌握，在很大程度上亦屬技術(shù)范疇,。

　?。ㄈ┙o予人工智能技術(shù)安全性 “恰到好處”的信任

　　人工智能技術(shù)安全性，也與對其信任程度有關(guān),。美國軍方運用人工智能技術(shù)方面的一個關(guān)鍵問題是,，軍方人員和美國政府高層領(lǐng)導(dǎo)能否相信這些系統(tǒng)確實有效且不會引發(fā)意外問題。2016年國防科學(xué)委員會對自主控制技術(shù)的研究報告指出：“決定在特定任務(wù)中部署運用某系統(tǒng)的個人,，必須信任該系統(tǒng),。”在伊拉克和阿富汗的行動表明,，負(fù)責(zé)實施特定行動的指揮官和戰(zhàn)斗/操作人員在不完全了解后果的情況下,，不一定會使用某些系統(tǒng)。當(dāng)某些系統(tǒng)被部署至戰(zhàn)場以滿足緊急需求時（如反簡易爆炸裝置系統(tǒng)或用于提供關(guān)鍵性情報的監(jiān)視系統(tǒng)）,，一些部隊還是選用了他們已經(jīng)熟悉的武器系統(tǒng)和情報監(jiān)視偵察平臺,，即便是老系統(tǒng)的功能指標(biāo)比不上那些已經(jīng)可以選用的新系統(tǒng)。

　　對人工智能系統(tǒng)的信任度過低是一種危險,，會阻止部隊運用他們所需的功能,。而另一種危險，則是對某項能力的過度信任,。人類傾向于過度信任機(jī)器,，即便在有證據(jù)表明不能夠給予這種程度的信任情況下，也是如此。戰(zhàn)爭活動中的過度信任,，也有具體案例,。如，2003年,，陸軍“愛國者”防空導(dǎo)彈系統(tǒng)曾擊落1架海軍F/A-18飛機(jī),，該系統(tǒng)將飛機(jī)誤判定為戰(zhàn)術(shù)彈道導(dǎo)彈，并向操作人員提出了建議,，要求其發(fā)射導(dǎo)彈實施攔截,。操作人員在沒有獨立核實可用信息的情況下，批準(zhǔn)實施了這項建議,。這表明,，在實際作戰(zhàn)行動中，軍方需要對人工智能給予程度“恰到好處”的信任,，不能過熱也不可太冷,，避免滑向兩個極端。需要達(dá)成的目標(biāo),，是程度恰當(dāng)?shù)男湃?，并且?yīng)該讓人來參與決策過程。而這種決策過程,，則需要以各種相關(guān)能力及對系統(tǒng)功能所具備的經(jīng)驗與知識為依托,。

　　（四）軍事人工智能安全問題將寫入政策方針

　　軍方和政府的高層領(lǐng)導(dǎo),，還應(yīng)通過政策方針層面的決策對相關(guān)軍事行動的性質(zhì)施加影響，包括確定戰(zhàn)爭活動中應(yīng)該使用哪些特定的技術(shù)手段,。這些方針政策,，可能會對監(jiān)管程度構(gòu)成影響。例如,，國防部第3000.09號指令,，就要求對某些類型的自主控制系統(tǒng)進(jìn)行高級別審核。明確戰(zhàn)爭活動中允許使用的技術(shù)手段（例如,，對白磷（彈藥）運用的限制和使用集束彈藥時相關(guān)設(shè)定要求以及對其它此類武器具體性能參數(shù)的限制要求）,，并且對某些特定類型作戰(zhàn)行動中的策略原則進(jìn)行限制。例如,，《2013版總統(tǒng)政策指導(dǎo)（Presidential Policy Guidance,，PPG）》及《2017版總統(tǒng)政策指導(dǎo)》中，對某些反恐行動的批準(zhǔn)與監(jiān)管流程的總體原則框架進(jìn)行了明確,。這些政策方針原則,，有助于確保相關(guān)軍事活動符合美國的原則、價值觀及利益。這些政策方針層級的決定,，都有反映出對此類系統(tǒng)或作戰(zhàn)行動可靠性所應(yīng)持有的信任程度的意味,。

　　值得注意的是，以上這些實例內(nèi)容都涉及到了安全性原則問題,，而《國防部第3000.09號指令》的目的,，就在于避免“意外交戰(zhàn)（inadvertent engagements）”事件的出現(xiàn)（例如致使平民傷亡）。限制白磷彈藥和集束彈藥的目的,，還在于減少使用這些武器時給平民帶來的危險,。《2013版總統(tǒng)政策指導(dǎo)》中,，直接將致使平民傷亡明確列為作戰(zhàn)行動批準(zhǔn)程序中的否決條件（no-gocriterion）,。因此可以預(yù)見，安全性問題,，勢必將成為未來高層領(lǐng)導(dǎo)人對于將人工智能技術(shù)手段運用于戰(zhàn)爭活動方面所明確的相關(guān)指導(dǎo)與指令內(nèi)容中的一部分,。

　　（五）軍方須與業(yè)界協(xié)助解決安全問題

　　人工智能技術(shù)的巨大進(jìn)步,，也使美國政府產(chǎn)生了對業(yè)界新的依賴性,。自第二次世界大戰(zhàn)以來，美國政府一直在很大程度上依賴于自身投入的研發(fā)資金,。然而,，人工智能技術(shù)方面的研發(fā)投資，越來越多地由私營機(jī)構(gòu)所主導(dǎo),。其特征,，是過去十年來科技行業(yè)的研發(fā)支出急劇增加。在圖1中,，我們將整個美國政府在網(wǎng)絡(luò)和信息技術(shù)研發(fā)方面的支出與美國排名前五位的高科技公司（亞馬遜,、谷歌/阿爾法控股、英特爾,、微軟,、蘋果）的研發(fā)投資進(jìn)行了對比。如圖1所示,，科技行業(yè)企業(yè)在研發(fā)方面的投入明顯更多,，而且兩者間的差距正在擴(kuò)大。2010年,，科技行業(yè)企業(yè)的研發(fā)支出,，已經(jīng)是美國政府整體科技研發(fā)投資規(guī)模的6倍。8年后,，企業(yè)在這方面的投入規(guī)模將激增至美國政府的15倍,?？傮w而言，美國政府在尖端技術(shù)方面研究工作的投資面臨著迅速擴(kuò)大的缺口,。這種現(xiàn)狀,，為美國政府營造出了一種處于不斷變化中的環(huán)境。在這種環(huán)境中,，與業(yè)界的協(xié)作,，對于美國政府實現(xiàn)其戰(zhàn)略目標(biāo)必須保持的技術(shù)優(yōu)勢而言至關(guān)重要。在這個意義上,，人工智能技術(shù)安全性應(yīng)該是業(yè)界關(guān)注的問題——正如谷歌等公司放棄了對美國政府軍事領(lǐng)域應(yīng)用方案的支持,，并開始運用倫理性審查程序?qū)ζ鋬?nèi)部工作流程進(jìn)行監(jiān)測所證明的那樣，美國政府必須與業(yè)界協(xié)作,，依托其幫助解決此類問題,。

　　圖1 美國政府與科技行業(yè)企業(yè)研發(fā)投資差距對比圖

　　四、美國軍事人工智能面向未來的發(fā)展趨向

　　人工智能技術(shù)一般可分為弱人工智能,、強(qiáng)人工智能,、超人工智能 3 個等級，預(yù)計強(qiáng)人工智能技術(shù)可能在 2050 年前問世,。未來美軍智能化建設(shè)發(fā)展可能經(jīng)歷三個階段：

　　2025 年前,，美軍重點是搭起智能化軍隊框架，總體水平處于弱人工智能階段,。美軍建設(shè)主要圍繞構(gòu)建“全球監(jiān)視打擊體系”,，以升級水下、網(wǎng)電,、空天,、全球快速打擊和導(dǎo)彈防御作戰(zhàn)系統(tǒng)為重點，突出發(fā)展無人化,、隱身化,、遠(yuǎn)程化作戰(zhàn)平臺，提升“全球公域”介入能力,，確保可信的“拒止”和“懲罰”威懾,。這一階段,，美軍無人系統(tǒng)在數(shù)量上將逐步超過有人系統(tǒng)，自主無人系統(tǒng)將成為美軍前沿作戰(zhàn)的重要力量,，無形,、無人、隱形,、靈巧等力量將成為美軍事干預(yù)的主要手段,。

　　2035 年前,，美國初步建成智能化作戰(zhàn)體系，總體水平進(jìn)入強(qiáng)人工智能階段,。美軍建設(shè)主要通過發(fā)展智能化作戰(zhàn)平臺,、信息系統(tǒng)和決策支持系統(tǒng)，以及定向能,、高超聲速,、仿生、基因,、納米等新型武器,，對主要對手形成新的軍事“代差”。在這一階段,，美軍無人系統(tǒng)的投資將超過有人系統(tǒng),，無人系統(tǒng)建設(shè)規(guī)模及作戰(zhàn)運用皆居于主導(dǎo)地位。

　　2050 年前,，美軍智能化作戰(zhàn)體系將更先進(jìn),、更完善，總體水平達(dá)到超強(qiáng)人工智能階段,。美軍在強(qiáng)人工智能,、通用量子計算、可控核聚變,、納米機(jī)器人,、再生、創(chuàng)生,、腦聯(lián)網(wǎng)等技術(shù)方面可能取得突破,。作戰(zhàn)平臺、信息系統(tǒng),、指揮控制可能全面實現(xiàn)智能化,、無人化，更多樣的仿生,、基因,、納米等新型武器走上戰(zhàn)場，作戰(zhàn)空間進(jìn)一步向生物空間,、納米空間,、智能空間拓展，人類進(jìn)入“機(jī)器人戰(zhàn)爭時代”,。