《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 通信與網(wǎng)絡(luò) > 業(yè)界動(dòng)態(tài) > 五角大樓的人工智能網(wǎng)絡(luò)戰(zhàn)項(xiàng)目:IKE

五角大樓的人工智能網(wǎng)絡(luò)戰(zhàn)項(xiàng)目:IKE

2020-09-17
來(lái)源:安全牛
關(guān)鍵詞: DARPA X計(jì)劃 IKE

  從DARPAX計(jì)劃到五角大樓神秘面紗下的IKE項(xiàng)目,,美國(guó)的人工智能網(wǎng)絡(luò)戰(zhàn)爭(zhēng)技術(shù)平臺(tái)已經(jīng)發(fā)展到了一個(gè)危險(xiǎn)的階段,美國(guó)如何以及何時(shí)發(fā)動(dòng)網(wǎng)絡(luò)戰(zhàn)的決策將越來(lái)越依賴計(jì)算機(jī),。

  馬里蘭州米德堡內(nèi)部的聯(lián)合作戰(zhàn)中心是美國(guó)軍隊(duì)網(wǎng)絡(luò)戰(zhàn)的“大教堂”,,位于一座2018年啟用的造價(jià)5.2億美元的綜合大樓的一隅,這里也是是美國(guó)網(wǎng)絡(luò)司令部和國(guó)家安全局進(jìn)行網(wǎng)絡(luò)戰(zhàn)時(shí)的神經(jīng)中樞,。一群軍事人員在一排排小巧的玻璃窗下的數(shù)十臺(tái)計(jì)算機(jī)顯示器后面工作,。

  三個(gè)20英尺高的屏幕安裝在窗戶下方的墻面上。在大多數(shù)情況下,,其中兩個(gè)屏幕每天都會(huì)顯示來(lái)自一個(gè)秘密程序——“IKE項(xiàng)目”的信息,。

  這個(gè)房間看起來(lái)和標(biāo)準(zhǔn)的政府禮堂沒(méi)什么不同,但是其背后的IKE項(xiàng)目的意義卻非同尋常,。

  如果說(shuō)聯(lián)合作戰(zhàn)中心是網(wǎng)絡(luò)戰(zhàn)(使用計(jì)算機(jī)代碼攻擊和防御從坦克到電子郵件服務(wù)器等目標(biāo)的藝術(shù))新時(shí)代的實(shí)體,,那么IKE就是大腦,。IKE跟蹤大屏幕下方的計(jì)算機(jī)旁“奮戰(zhàn)”的200名工作人員的每一次擊鍵,并預(yù)測(cè)每一個(gè)網(wǎng)絡(luò)任務(wù)成功的概率,。IKE還可以自動(dòng)運(yùn)行程序命令,,并在動(dòng)態(tài)獲取信息的同時(shí)不斷進(jìn)行調(diào)整。

  告別“人工”網(wǎng)絡(luò)戰(zhàn)

  與過(guò)去十年網(wǎng)絡(luò)空間手動(dòng)操縱工具的戰(zhàn)斗相比,,IKE完全是一個(gè)劃時(shí)代產(chǎn)物,。

  網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的強(qiáng)大之處在于,它不僅能直接控制敵人的飛機(jī)和艦船,,而且還能通過(guò)指揮武器背后的計(jì)算機(jī)來(lái)終止軍事行動(dòng),,從而避免了流血沖突。自從美國(guó)和以色列使用臭名昭著的震網(wǎng)病毒(Stuxnet)打擊伊朗核設(shè)施以來(lái),,網(wǎng)絡(luò)戰(zhàn)爭(zhēng)這個(gè)概念就得到了發(fā)展,。

  在IKE之前,網(wǎng)絡(luò)專家會(huì)在巨大的白板或粘貼在墻上的密密麻麻的卡片紙張上制定作戰(zhàn)計(jì)劃,。他們分成小組,,在單獨(dú)的計(jì)算機(jī)上運(yùn)行單獨(dú)的程序,并將散布著手寫(xiě)筆記的紙條交給中央辦公桌,,以標(biāo)記軍事行動(dòng)的進(jìn)度,。

  這頗具諷刺意味,在一場(chǎng)被認(rèn)為是未來(lái)派的高科技戰(zhàn)斗中,,幾乎所有與網(wǎng)絡(luò)空間沖突有關(guān)的指揮決策都通過(guò)毫無(wú)技術(shù)含量可言的手工方式,,沒(méi)有中央計(jì)劃系統(tǒng),也沒(méi)有計(jì)算機(jī)化的思考和分析,。

  2012年,,IKE項(xiàng)目啟動(dòng),并于2018年開(kāi)始投入使用,,用人工智能代替人類做出更快決策,。這意味著,美國(guó)如何以及何時(shí)發(fā)動(dòng)網(wǎng)絡(luò)戰(zhàn)的決策將越來(lái)越依賴計(jì)算機(jī),。

  人工智能技術(shù)能大幅提升攻擊和防御的潛在優(yōu)勢(shì),,能在幾分之一秒內(nèi)檢測(cè)動(dòng)態(tài),遠(yuǎn)超人類黑客的手速,。但是,,一個(gè)棘手的問(wèn)題在于,像IKE這樣的系統(tǒng)依賴于一種稱為機(jī)器學(xué)習(xí)的人工智能技術(shù),,因此很難進(jìn)行測(cè)試,,從而使其動(dòng)作無(wú)法預(yù)測(cè)。網(wǎng)絡(luò)戰(zhàn)中,任何異常計(jì)算機(jī)代碼都可能會(huì)導(dǎo)致附帶傷害,,例如意外關(guān)閉醫(yī)院電源或破壞商用飛機(jī)空中交通管制系統(tǒng),,即使是用極其復(fù)雜精妙的計(jì)算機(jī)也會(huì)帶來(lái)風(fēng)險(xiǎn)。

  與網(wǎng)絡(luò)戰(zhàn)爭(zhēng)有關(guān)的信息,,尤其是IKE項(xiàng)目,,屬于高度機(jī)密。甚至任何有關(guān)其計(jì)算機(jī)代碼的暗示線索都可能導(dǎo)致實(shí)戰(zhàn)中該代碼的攻擊被阻斷,。因此,,外界很難探知IKE項(xiàng)目的細(xì)節(jié)信息。

  但是,,根據(jù)對(duì)熟悉該計(jì)劃的人士的媒體采訪內(nèi)容,,有一點(diǎn)是毋庸置疑的,在軍備競(jìng)賽提速的大背景下,,美國(guó)軍方正在全力加速采用人工智能和自動(dòng)化技術(shù),。

  與谷歌的“阿爾法狗”多少有些類似,IKE能分析大量數(shù)據(jù),,以百分比的形式精確預(yù)測(cè)美軍軍事行動(dòng)的成敗幾率,。如果“勝率”很高,指揮官可能會(huì)決定讓系統(tǒng)繼續(xù)運(yùn)行而無(wú)需進(jìn)一步的人工干預(yù),,該流程雖然尚未正式啟用,但是基于目前技術(shù)是完全可行的,。

  AI加速主宰戰(zhàn)場(chǎng)

  埃德·卡登(Ed Cardon)是已退休的美軍中將,,從2013年至2016年擔(dān)任陸軍網(wǎng)絡(luò)部隊(duì)負(fù)責(zé)人,他花了多年時(shí)間游說(shuō)高級(jí)軍方將領(lǐng)和白宮領(lǐng)導(dǎo)人使用網(wǎng)絡(luò)武器,,特別是在他指揮的打擊ISIS的網(wǎng)絡(luò)作戰(zhàn)期間,。由于擔(dān)心網(wǎng)絡(luò)攻擊可能攪亂國(guó)際關(guān)系,他的主張?jiān)庥隽苏畠?nèi)部強(qiáng)烈的反對(duì)意見(jiàn),。

  因?yàn)榭ǖ怯握f(shuō)的網(wǎng)絡(luò)武器計(jì)劃包含很多不確定因素,,而這種不確定性是政客們最不愿意看到的。

  卡登抱怨說(shuō),,擔(dān)心政治影響是奧巴馬政府執(zhí)政期間只批準(zhǔn)了少數(shù)進(jìn)攻性網(wǎng)絡(luò)行動(dòng)的原因,。

  震網(wǎng)事件導(dǎo)致的“網(wǎng)絡(luò)戰(zhàn)武器泄露”使得美國(guó)在使用網(wǎng)絡(luò)武器時(shí)變得極為謹(jǐn)慎。雖然最初試圖破壞伊朗鈾濃縮的嘗試奏效了,,炸毀了核設(shè)施中的離心機(jī),,但是攻擊代碼被泄露到互聯(lián)網(wǎng)上,引起了安全專家們和網(wǎng)絡(luò)犯罪分子的極大關(guān)注,,并產(chǎn)生了嚴(yán)重后果,。這個(gè)直接導(dǎo)致2010年之后,美國(guó)政府對(duì)使用網(wǎng)絡(luò)武器的方式和時(shí)間方面進(jìn)行了嚴(yán)格規(guī)定。

  2013年巴拉克·奧巴馬(Barack Obama)簽署了一項(xiàng)機(jī)密命令,,即《總統(tǒng)政策指令20》,,其中概述了一系列流程,包括白宮高層會(huì)議,,這些流程必須在美國(guó)網(wǎng)絡(luò)司令部發(fā)起攻擊之前進(jìn)行,。軍方官員悄悄地抱怨說(shuō),該命令束縛了他們的雙手,,因?yàn)樾袆?dòng)結(jié)果的不確定性,,幾乎不可能獲得批準(zhǔn)。

  《總統(tǒng)政策指令20》簽發(fā)后,,隨著全球網(wǎng)絡(luò)攻擊的數(shù)量不斷增長(zhǎng),,五角大樓官員開(kāi)始擔(dān)心美國(guó)的網(wǎng)絡(luò)將不堪重負(fù)。

  2018年9月,,特朗普簽署了《國(guó)家安全政策備忘錄13》,,該備忘錄取代了奧巴馬的命令。該政策的細(xì)節(jié)仍處于機(jī)密狀態(tài),,但熟悉該消息的消息人士稱,,一旦國(guó)防部長(zhǎng)與情報(bào)官員進(jìn)行協(xié)調(diào),它將授權(quán)國(guó)防部長(zhǎng)在未經(jīng)上級(jí)批準(zhǔn)的情況下批準(zhǔn)某些類型的行動(dòng),。

  特朗普的總統(tǒng)命令在IKE早期研究計(jì)劃成熟之前就已經(jīng)生效,。雖然該命令不是為IKE鋪路,但兩者迎合了高速網(wǎng)絡(luò)攻擊的新技術(shù)和新政策浪潮,。

  借助IKE,,指揮官將能夠向決策者提供一個(gè)預(yù)測(cè)成功率的數(shù)值,以及另一個(gè)計(jì)算出來(lái)的附帶損害(例如破壞可能連接到目標(biāo)的民用計(jì)算機(jī)網(wǎng)絡(luò))風(fēng)險(xiǎn)數(shù)值,。

  IKE是現(xiàn)代網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的模型,,但這僅僅是個(gè)開(kāi)始。任何此類戰(zhàn)爭(zhēng)的自動(dòng)化都將需要收集大量數(shù)據(jù)來(lái)訓(xùn)練人工智能系統(tǒng),。其他正在開(kāi)發(fā)的程序,,例如HACCS(一種利用自主性來(lái)對(duì)抗網(wǎng)絡(luò)攻擊者的系統(tǒng)),使計(jì)算機(jī)能夠自主阻斷網(wǎng)絡(luò)威脅,。

  所有這些程序都使網(wǎng)絡(luò)戰(zhàn)更接近1983年的電影《戰(zhàn)爭(zhēng)游戲》中的場(chǎng)景,,該電影中的人工智能系統(tǒng),因?yàn)橐粋€(gè)小故障導(dǎo)致無(wú)法區(qū)分游戲與現(xiàn)實(shí)之間的差異,,結(jié)果引發(fā)了核戰(zhàn)爭(zhēng),。

  IKE尚未“轉(zhuǎn)正”成為完全自主的網(wǎng)絡(luò)引擎,并且美軍也絕無(wú)可能在其黑客工具庫(kù)中添加核武器,,但這依然為計(jì)算機(jī)接管更多的網(wǎng)絡(luò)戰(zhàn)斗決策奠定了基礎(chǔ),。美國(guó)指揮官一直擔(dān)心會(huì)落后于中國(guó)和俄羅斯等競(jìng)爭(zhēng)對(duì)手,,他們認(rèn)為后兩個(gè)國(guó)家都在研發(fā)AI網(wǎng)絡(luò)武器。

  盡管不斷增長(zhǎng)的自主網(wǎng)絡(luò)功能未經(jīng)測(cè)試,,但部署這些功能并沒(méi)有法律障礙,。

  令一些專家擔(dān)心的是,人工智能系統(tǒng)并非總是能夠以可預(yù)測(cè)的方式運(yùn)行,,故障可能會(huì)危及生命,。做出決定的計(jì)算機(jī)“大腦”也不會(huì)擔(dān)心附帶損害:如果犧牲一些美軍能提高“勝率”,那么人工智能系統(tǒng)就會(huì)面無(wú)表情地讓這些人去送死,。

  卡登說(shuō):“這臺(tái)機(jī)器為了取勝不惜大義滅親,。”

  隨著這些日益自主化的系統(tǒng)變得越來(lái)越強(qiáng)大,,白宮高層官員必須決定是否愿意讓AI計(jì)算機(jī)控制美國(guó)的網(wǎng)絡(luò)武器庫(kù),,即使他們不了解計(jì)算機(jī)的決策。

  喬治敦大學(xué)網(wǎng)絡(luò)安全和外交政策教授,,《黑客與國(guó)家》(The Hacker and the State)的作者本·布坎南(Ben Buchanan)指出:“機(jī)器學(xué)習(xí)系統(tǒng)的優(yōu)勢(shì)是它們經(jīng)常吐出數(shù)字,。”“但危險(xiǎn)的是,,這些數(shù)字并不總是正確的,。人們更容易相信,來(lái)自計(jì)算機(jī)的信息總是嚴(yán)格而準(zhǔn)確的,?!?/p>

  網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的基礎(chǔ)原理非常簡(jiǎn)單。無(wú)論是從事進(jìn)攻還是防御工作的專家,,都必須弄清楚哪些計(jì)算機(jī)或設(shè)備在網(wǎng)絡(luò)上,,以及它們?cè)诜烙矫媸欠翊嬖谌觞c(diǎn)。然后,,黑客利用這些弱點(diǎn)來(lái)控制系統(tǒng),或者對(duì)于防御方來(lái)說(shuō),,則應(yīng)修復(fù)漏洞,。

  掌握了系統(tǒng)的控制權(quán)之后,攻擊者幾乎可以為所欲為,。對(duì)于情報(bào)機(jī)構(gòu),,這通常意味著要認(rèn)真監(jiān)視網(wǎng)絡(luò)以了解對(duì)手。其余時(shí)間,,網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的雙方忙于尋求入侵系統(tǒng),,破壞或替換數(shù)據(jù)以打擊對(duì)手。

  迄今為止,,全球尚未爆發(fā)全面的網(wǎng)絡(luò)戰(zhàn)爭(zhēng),,戰(zhàn)斗僅限于遮遮掩掩的國(guó)家之間的小規(guī)模沖突,。網(wǎng)絡(luò)戰(zhàn)的“好處”之一是,國(guó)家可以通過(guò)多個(gè)網(wǎng)絡(luò)中繼運(yùn)行攻擊的代碼,,這使得跟蹤攻擊源變得更加困難,。但是,十幾個(gè)擁有先進(jìn)網(wǎng)絡(luò)功能的國(guó)家/地區(qū)一直在忙于破解從發(fā)電廠到噴氣式戰(zhàn)斗機(jī)制造商的所有信息,。到目前為止,,網(wǎng)絡(luò)戰(zhàn)部隊(duì)的重點(diǎn)是竊取信息。

  起源:代號(hào)“X計(jì)劃”

  對(duì)于網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的第一個(gè)時(shí)代(在世紀(jì)之初迅速發(fā)展起來(lái)),,攻擊或防御過(guò)程意味著一系列手動(dòng)步驟,。五角大樓正忙于從科技公司購(gòu)買(mǎi)一次性工具,這些工具提供了解決方案來(lái)跟蹤網(wǎng)絡(luò)中的所有計(jì)算機(jī)并查找其代碼中的弱點(diǎn),。這意味著一個(gè)專家會(huì)使用諸如Endgame之類的程序坐在一臺(tái)計(jì)算機(jī)上,,而另一名專家可能會(huì)在另一臺(tái)計(jì)算機(jī)上使用諸如Splunk之類的軟件??傊?,一切進(jìn)展緩慢,溝通與決策效率低下,。

  要制定戰(zhàn)斗計(jì)劃,,專家們必須離開(kāi)計(jì)算機(jī),在白板或紙上擬定戰(zhàn)略,,返回自己的駐地,,并進(jìn)行一系列有序的動(dòng)作來(lái)贏得戰(zhàn)斗。到2012年,,軍方已經(jīng)厭倦了這種繁冗過(guò)時(shí)的做法,。

  五角大樓責(zé)成其研究部門(mén),即以發(fā)明互聯(lián)網(wǎng)和計(jì)算機(jī)鼠標(biāo)而聞名的國(guó)防部高級(jí)研究計(jì)劃局(DARPA),,想出一種更好的方式來(lái)進(jìn)行網(wǎng)絡(luò)戰(zhàn)爭(zhēng),。

  DARPA開(kāi)發(fā)的早期系統(tǒng)簡(jiǎn)化了部隊(duì)的工作,但是他們?nèi)匀幻媾R著巨大的障礙,,這主要是因?yàn)槊绹?guó)網(wǎng)絡(luò)司令部的專家不足7,000名,,難以保護(hù)不計(jì)其數(shù)的系統(tǒng)。

  DARPA的答案是與軟件公司合作開(kāi)展一項(xiàng)新計(jì)劃,,該計(jì)劃正式稱為“基礎(chǔ)網(wǎng)絡(luò)戰(zhàn)”,,代號(hào)“X計(jì)劃”。

  DARPA在2012年發(fā)布的X計(jì)劃中明確指出,,網(wǎng)絡(luò)戰(zhàn)必須超越“手動(dòng)”發(fā)動(dòng)戰(zhàn)爭(zhēng)的方式,,手動(dòng)方式無(wú)法滿足網(wǎng)絡(luò)空間的一項(xiàng)基本原則:“戰(zhàn)爭(zhēng)以機(jī)器速度運(yùn)行,不是人類的速度,?!?/p>

  近十年后,,Plan X演變?yōu)镮KE項(xiàng)目。五角大樓今年將花費(fèi)2700萬(wàn)美元,,并計(jì)劃明年花費(fèi)3060萬(wàn)美元,。

  X計(jì)劃最初的工作內(nèi)容看起來(lái)完全不像是IKE這樣的團(tuán)隊(duì)管理和預(yù)測(cè)引擎,更接近電影《少數(shù)派報(bào)告》的交互式屏幕和指示燈,,其重點(diǎn)是以數(shù)據(jù)展示方式顯示計(jì)算機(jī)網(wǎng)絡(luò)上正在發(fā)生的事情,。

  “最初幾年的要求是,必須擺脫鍵盤(pán)和鼠標(biāo)作為數(shù)據(jù)接口和交互設(shè)備,,”X計(jì)劃外包公司Two Six Lab的部門(mén)主管杰夫·卡雷爾斯(Jeff Karrels)告訴媒體:“研究人員喜歡用手勢(shì)控制系統(tǒng)以及三維全息投影,。”

  新的數(shù)字沙盤(pán)視覺(jué)系統(tǒng)獲取美國(guó)網(wǎng)絡(luò)部隊(duì)的數(shù)據(jù)流,,取代稀稀拉拉擺放著部隊(duì)和坦克模型的舊沙盤(pán),。兩個(gè)游戲開(kāi)發(fā)人員負(fù)責(zé)開(kāi)發(fā)復(fù)雜沙盤(pán)模型的人機(jī)交互。

  最終,,對(duì)于虛擬現(xiàn)實(shí)版本戰(zhàn)場(chǎng)系統(tǒng)的熱情消退了,。X計(jì)劃的工作人員開(kāi)始設(shè)計(jì)一種新的方式來(lái)整合五角大樓購(gòu)買(mǎi)的不同網(wǎng)絡(luò)軟件,以便它們都可以在同一臺(tái)計(jì)算機(jī)上工作,。換而言之,,就是開(kāi)發(fā)可以快速連續(xù)運(yùn)行多個(gè)程序的自動(dòng)化工具,通過(guò)減少行動(dòng)任務(wù)中的一系列手動(dòng)步驟來(lái)加快操作速度,。

  這種關(guān)注局部細(xì)節(jié)和自動(dòng)化的開(kāi)發(fā)思路轉(zhuǎn)變背離了該系統(tǒng)的初衷和總體目標(biāo)——智能化決策:計(jì)劃和進(jìn)行戰(zhàn)爭(zhēng),。

  國(guó)家網(wǎng)絡(luò)安全和通信集成中心的國(guó)土安全部工作人員。(拉里·唐寧/路透社)

  直到2015年,,X計(jì)劃再次迎來(lái)轉(zhuǎn)機(jī),。

  那年,已退休的中將卡登在關(guān)注該計(jì)劃,,并擔(dān)心專家們會(huì)錯(cuò)過(guò)機(jī)會(huì),。

  負(fù)責(zé)DARPA X計(jì)劃的弗蘭克·龐德(Frank Pound)記得當(dāng)年與卡登開(kāi)會(huì)討論已取得的進(jìn)展??D指揮的美國(guó)陸軍網(wǎng)絡(luò)司令部(US Army Cyber Command),,雖然是DARPA項(xiàng)目,但在開(kāi)發(fā)初期就與該計(jì)劃密切相關(guān),。

  龐德在2018年的一次采訪中回憶X計(jì)劃向集成化軟件的轉(zhuǎn)型時(shí)說(shuō):“我們正在努力開(kāi)發(fā)一個(gè)能夠自主反擊的系統(tǒng)?!?/p>

  卡登補(bǔ)充說(shuō):X計(jì)劃的潛力不僅于此,。可以幫助協(xié)調(diào)所有網(wǎng)絡(luò)操作,,同時(shí)不斷地仔細(xì)檢查國(guó)防部網(wǎng)絡(luò)上的信息,,以發(fā)現(xiàn)新的漏洞并找出攻擊者,。它可以利用所有這些數(shù)據(jù)來(lái)幫助做出決定,確定美軍的攻擊可能起作用,,以及何時(shí)使用,。

  Mayhem的崛起

  2016年夏季,另外一個(gè)DARPA培植的項(xiàng)目——Mayhem成為焦點(diǎn),,更接近DARPA最初在2012年描述的全功能平臺(tái),。

  自動(dòng)化安全系統(tǒng)Mayhem是2016年DARPA網(wǎng)絡(luò)超級(jí)挑戰(zhàn)賽(CGC)的獲勝者,在黑客競(jìng)賽中擊敗了六個(gè)競(jìng)爭(zhēng)對(duì)手,,贏得200萬(wàn)美元的最高獎(jiǎng)金,。

  這場(chǎng)競(jìng)賽與之前不同的是,Mayhem沒(méi)有人指揮,。一旦受到挑戰(zhàn),,它就必須決定何時(shí),如何攻擊競(jìng)爭(zhēng)對(duì)手以及如何保護(hù)自己的程序,,并制定策略來(lái)贏得一封閉式網(wǎng)絡(luò)戰(zhàn)爭(zhēng),。

  Mayhem的自動(dòng)化技術(shù)使機(jī)器可以自主做出戰(zhàn)術(shù)決策:何時(shí)闖入對(duì)手的系統(tǒng)或何時(shí)嘗試修復(fù)自身防御中的弱點(diǎn),這已經(jīng)遠(yuǎn)遠(yuǎn)超出了模糊測(cè)試的范圍,。

  今年五月五角大樓Mayhem的開(kāi)發(fā)公司ForAllSecure簽訂了一份價(jià)值4500萬(wàn)美元的合同,,以擴(kuò)大Mayhem在美軍中的使用范圍,因?yàn)檐姺接刑嘬浖ug急需一個(gè)“漏洞大殺器”,。一份2018年度的美國(guó)政府工作報(bào)告發(fā)現(xiàn),,美國(guó)國(guó)防部2012年至2017年之間測(cè)試的所有武器系統(tǒng)都存在嚴(yán)重的軟件漏洞。

  但Mayhem這樣依賴機(jī)器學(xué)習(xí)的系統(tǒng)普遍存在一些問(wèn)題:很難對(duì)其進(jìn)行測(cè)試,,并且機(jī)器總是傾向于“投機(jī)取巧”,。例如,在一個(gè)實(shí)驗(yàn)中,,一臺(tái)學(xué)習(xí)玩俄羅斯方塊的計(jì)算機(jī)得出結(jié)論:實(shí)現(xiàn)“不敗”的最佳策略是按下游戲暫停鍵,。

  無(wú)論軍事研究人員使用AI開(kāi)發(fā)何種工具,都很難評(píng)估它們?cè)趹?zhàn)斗中的工作方式,。人們尚不清楚如何測(cè)試不斷吸收新數(shù)據(jù)并不斷調(diào)整其結(jié)論的機(jī)器學(xué)習(xí)系統(tǒng),。

  此外,Mayhem這種人工智能系統(tǒng)存在一個(gè)難題:計(jì)算機(jī)無(wú)法解釋他們?nèi)绾蔚贸龃鸢?,這意味著用戶必須相信結(jié)論是正確的,。

  雖然人工智能技術(shù)目前依然無(wú)法“自圓其說(shuō)”,但卡登堅(jiān)信X計(jì)劃可以成為所有美軍網(wǎng)絡(luò)戰(zhàn)的平臺(tái),,在他的推動(dòng)下,,X計(jì)劃正在演變?yōu)榫W(wǎng)絡(luò)戰(zhàn)爭(zhēng)中應(yīng)用更廣泛的管理工具。

  酷炫的高科技數(shù)字沙盤(pán)已經(jīng)一去不復(fù)返了,。龐德指出:“今天的X計(jì)劃是專為軍事行動(dòng)而設(shè)計(jì)的全棧網(wǎng)絡(luò)行動(dòng)平臺(tái),?!?/p>

  從X計(jì)劃到IKE

  自從特朗普將“開(kāi)火權(quán)”下放給軍隊(duì)后不久,2018年五角大樓的一個(gè)神秘部門(mén)奪走了X計(jì)劃的控制權(quán),。

  這個(gè)部門(mén)就是時(shí)任國(guó)防部副部長(zhǎng)的阿什·卡特(Ash Carter)于2012年成立的戰(zhàn)略能力辦公室(SCO),,其任務(wù)是將有前途的技術(shù)轉(zhuǎn)化為真實(shí)的戰(zhàn)場(chǎng)工具。如果說(shuō)DARPA的大部分任務(wù)仍然是擺弄理論和概念,,那么SCO的任務(wù)是確保所有這些工作都能迅速轉(zhuǎn)化為戰(zhàn)斗力,。

  SCO在2018年12月接管X計(jì)劃時(shí),做的第一件事就是給程序改名,。X計(jì)劃被重新重命名為IKE項(xiàng)目,。

  SCO向該計(jì)劃的主要承包商“Two Six Lab”傳達(dá)了一個(gè)重要信息:確保系統(tǒng)使用機(jī)器學(xué)習(xí)來(lái)做出更多的預(yù)測(cè),而不僅僅是跟蹤黑客團(tuán)隊(duì),。五角大樓的領(lǐng)導(dǎo)者們看到了Mayhem在網(wǎng)絡(luò)大挑戰(zhàn)賽中取得的成就后,,堅(jiān)信可以將更多的自動(dòng)化和人工智能技術(shù)整合到IKE項(xiàng)目中。預(yù)測(cè)作戰(zhàn)成功率成為關(guān)鍵能力,。

  SCO還開(kāi)始研究如何讓IKE利用機(jī)器學(xué)習(xí)來(lái)偵察潛在攻擊目標(biāo),,讓計(jì)算機(jī)從不同的來(lái)源獲取信息,以更清晰地了解目標(biāo)的外觀,。

  從那以后,,對(duì)人工智能的關(guān)注一直在推動(dòng)IKE不斷改進(jìn)。每三周完成一次系統(tǒng)更新,,并將其發(fā)送給美國(guó)網(wǎng)絡(luò)司令部,。

  離開(kāi)DARPA后,IKE很快就被五角大樓列為高度保密項(xiàng)目,。國(guó)防部發(fā)送給國(guó)會(huì)的年度預(yù)算文件也對(duì)該計(jì)劃進(jìn)行了命名,,并列出了所需資金的數(shù)額(2021年為3060萬(wàn)美元),但其他所有細(xì)節(jié)均保密,。

  但是,,有消息人士聲稱,IKE計(jì)劃已經(jīng)進(jìn)展到了無(wú)需人工干預(yù)就能執(zhí)行其許多功能的關(guān)口,。目前最大的問(wèn)題能否獲得五角大樓和白宮官員的核準(zhǔn),。

  到目前為止,國(guó)會(huì)還沒(méi)有介入限制軍方如何使用其快速發(fā)展中的網(wǎng)絡(luò)武器庫(kù),。由美國(guó)緬因州參議員安格斯·金(Angus King)和美國(guó)威斯康星州眾議員邁克·加拉格爾(Mike Gallagher)主持的美國(guó)網(wǎng)絡(luò)空間日光浴室委員會(huì)研究了一系列涉及網(wǎng)絡(luò)安全的問(wèn)題,,并對(duì)人工智能的興起表示關(guān)注。該委員會(huì)在三月份發(fā)布的最終報(bào)告中發(fā)現(xiàn),,人工智能可能導(dǎo)致一場(chǎng)“新軍備競(jìng)賽”,,但沒(méi)有提出任何形式的監(jiān)管建議。

  如果沒(méi)有其他阻力,五角大樓會(huì)繼續(xù)開(kāi)足馬力,,盡可能開(kāi)發(fā)出最先進(jìn)的工具。

  最新的DARPA項(xiàng)目名為HACCS(針對(duì)網(wǎng)絡(luò)攻擊者系統(tǒng)的自動(dòng)化利用),,嘗試開(kāi)發(fā)可自行尋找特定類型攻擊者的系統(tǒng),,主要是那些發(fā)動(dòng)DDoS攻擊的僵尸網(wǎng)絡(luò)。HACCS可以植入IKE,,以發(fā)起自動(dòng)化的網(wǎng)絡(luò)戰(zhàn)斗,。

  “Two Six Lab”也在研究HACCS計(jì)劃,并指出最大的問(wèn)題是美國(guó)網(wǎng)絡(luò)司令部是否會(huì)使用它,。即使該技術(shù)已經(jīng)具備能力,,但目前沒(méi)有何時(shí)可以使用的規(guī)則,也不清楚是否會(huì)部署,。

  從技術(shù)角度來(lái)看,,最困難的部分已經(jīng)完成,并且如果網(wǎng)絡(luò)專家允許,,該軟件已經(jīng)能夠計(jì)劃和發(fā)起自己的攻擊,。這可能會(huì)徹底終結(jié)大規(guī)模的僵尸網(wǎng)絡(luò)攻擊(這種類型的攻擊常常使銀行網(wǎng)站和其他網(wǎng)站癱瘓)。

  雖然已經(jīng)“就緒”,,但I(xiàn)KE依然是一項(xiàng)未經(jīng)驗(yàn)證的技術(shù),,可能會(huì)意外關(guān)閉并損壞關(guān)鍵的計(jì)算機(jī)網(wǎng)絡(luò)。

  正如Two Six Lab公司的卡雷爾斯所言:“在IKE變成現(xiàn)實(shí)的過(guò)程中,,我們距離危險(xiǎn)越來(lái)越近,。”

    

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。