2022CCS成都網(wǎng)絡(luò)安全大會(huì)暨數(shù)據(jù)治理峰會(huì),在線上正式拉開(kāi)序幕,。在大會(huì)主論壇上,，百度副總裁馬杰分享了百度在元宇宙和AI安全領(lǐng)域的前沿實(shí)踐和探索。

　　馬杰首先談到，2022年是我國(guó)全面實(shí)施十四五規(guī)劃相關(guān)規(guī)劃的關(guān)鍵性的一年,，也是我們?cè)诰W(wǎng)絡(luò)安全產(chǎn)業(yè)上承上啟下加速成長(zhǎng)的關(guān)鍵理念。在堅(jiān)實(shí)的制度保障下統(tǒng)籌安全和發(fā)展,，特別是全面加強(qiáng)網(wǎng)絡(luò)安全保障體系的能力建設(shè),，不僅是推動(dòng)產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化的必然要求,，也是建設(shè)數(shù)字中國(guó)戰(zhàn)略不可或缺的重要基石,。

　　伴隨數(shù)字經(jīng)濟(jì)智能經(jīng)濟(jì)的發(fā)展以及國(guó)際政治經(jīng)濟(jì)格局的變化全球范圍內(nèi)網(wǎng)絡(luò)安全形勢(shì)正在發(fā)生一系列深刻的變革，在這之中最引人注目的莫過(guò)于以AI為代表的新技術(shù)新應(yīng)用和新場(chǎng)景的快速崛起,。

　　一方面,，AI與實(shí)體經(jīng)濟(jì)進(jìn)一步融合，給人們的生產(chǎn)和生活帶來(lái)了很多的便利,；另一方面 AI也刷新了業(yè)界對(duì)網(wǎng)絡(luò)安全的認(rèn)知,，重構(gòu)了原有的網(wǎng)絡(luò)安全體系，多方協(xié)同共治目前已經(jīng)成為了業(yè)界共識(shí),。

　　馬杰表示,，作為一家擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先的AI公司，百度是全球?yàn)閿?shù)不多的可以提供AI芯片,、AI軟件框架和AI應(yīng)用等等的全棧AI技術(shù)的企業(yè)之一,。聚焦在AI安全領(lǐng)域，面對(duì)上述一系列技術(shù)和行業(yè)的變局,，百度也在探索如何去打造一個(gè)更為安全的AI,，以及如何利用AI去構(gòu)建一個(gè)更為安全的智能時(shí)代。

　　他談到,，兩年前百度率先提出了Security,、Safety、Privacy安全研究的三大維度,，分別指向了強(qiáng)對(duì)抗環(huán)境下的安全威脅,，非對(duì)抗條件下自然環(huán)境所產(chǎn)生的真實(shí)威脅以及數(shù)據(jù)安全和隱私保護(hù)?！癆I安全的三維度為百度的AI研究提供了一個(gè)方向,，但與此同時(shí)百度也在思考，當(dāng)討論SSP時(shí),，應(yīng)當(dāng)如何去這種新的技術(shù)去應(yīng)對(duì)新的變化,？”

　　馬杰認(rèn)為,，對(duì)于安全來(lái)講最大的挑戰(zhàn)永遠(yuǎn)不是該如何去解決問(wèn)題，而是如何才能更快的更準(zhǔn)確地提出問(wèn)題,、發(fā)現(xiàn)問(wèn)題,。從某種角度來(lái)看，Security所代表的其實(shí)是已經(jīng)發(fā)現(xiàn)的問(wèn)題,，如果知道問(wèn)題就在那,，就能知道它會(huì)對(duì)我們?cè)斐赡男﹤Γ疫@種強(qiáng)對(duì)抗的安全風(fēng)險(xiǎn)通常都是有意而為之的,，所以業(yè)界通常也能夠找到對(duì)應(yīng)的解決方法,。

　　相比之下，Safety帶來(lái)的是一個(gè)更為寬泛而模糊的挑戰(zhàn),。在真實(shí)世界中有太多太多的風(fēng)險(xiǎn)是無(wú)法預(yù)判的,，人的行為環(huán)境的變化，這些變數(shù)都是非常隨機(jī)的,，而且是巨大的,，因此要進(jìn)行廣泛的覆蓋，重點(diǎn)應(yīng)對(duì),。

　　但實(shí)際上窮舉所有的可能性幾乎是不現(xiàn)實(shí)的,，永遠(yuǎn)無(wú)法在潛在的安全問(wèn)題爆發(fā)前做好足夠充足的準(zhǔn)備。因此,，是否能夠找到一種方法,，利用AI技術(shù)、用云,、用原宇宙,，去構(gòu)建一個(gè)數(shù)字孿生的世界，在平行的空間里不斷地去仿真去測(cè)試,，去觸發(fā)這些想得到的想不到的安全隱患和安全組合，最大限度地去發(fā)現(xiàn)他們,，并且以更高效的方式去優(yōu)化我們的安全系統(tǒng),？這成為了百度安全的一個(gè)長(zhǎng)期的研究課題。

　　圍繞這一課題,，百度安全試圖從Fuzzing自動(dòng)化模糊測(cè)試技術(shù)著手,，將Fuzzing和Meta相結(jié)合，去挖掘AI安全背后的更大價(jià)值,。

　　百度創(chuàng)新實(shí)踐

　　將安全帶上元宇宙

　　馬杰隨后分享了一個(gè)利用Fuzzing模糊測(cè)試技術(shù)的嘗試——“鐵馬冰河”自動(dòng)駕駛評(píng)測(cè)平臺(tái),。

　　他表示，百度的自動(dòng)駕駛汽車(chē)已經(jīng)在全國(guó)的很多城市上路,，在過(guò)去的9年時(shí)間里,，百度自動(dòng)駕駛汽車(chē)已經(jīng)積累了超過(guò)2,700萬(wàn)公里的自動(dòng)駕駛的路測(cè)里程,，通過(guò)走萬(wàn)里路不斷地學(xué)習(xí)迭代，自動(dòng)駕駛已經(jīng)變得更加聰明,，也會(huì)變得更加的安全,。但與此同時(shí)百度也在思考，能否更快一些的為自動(dòng)駕駛創(chuàng)造一個(gè)虛擬的,，但能夠映射現(xiàn)實(shí)世界真實(shí)路況的安全測(cè)試平臺(tái),，一個(gè)將Fuzzing與Meta相結(jié)合的平臺(tái)，一個(gè)物理與虛實(shí)相結(jié)合的平臺(tái),。

　　由此百度研發(fā)了“鐵馬冰河”,，一個(gè)聚焦于沉浸式高擬幀場(chǎng)景，包含AI對(duì)抗原宇宙化安全測(cè)試的平臺(tái),。在這個(gè)平臺(tái)上百度構(gòu)建了大量的測(cè)試場(chǎng)景,，去捕捉自動(dòng)駕駛產(chǎn)品感知環(huán)節(jié)的漏洞，進(jìn)行視覺(jué)魯棒性,、AI安全對(duì)抗性的指標(biāo)評(píng)測(cè),，通過(guò)虛實(shí)結(jié)合的仿真測(cè)試，為自動(dòng)駕駛安全保駕護(hù)航,。

　　據(jù)他介紹,，目前鐵馬冰河安全測(cè)試平臺(tái)已經(jīng)可以支持三個(gè)方向的自動(dòng)駕駛的安全評(píng)測(cè)：

　　第一個(gè)是在仿真環(huán)境中對(duì)真實(shí)車(chē)輛進(jìn)行自動(dòng)駕駛能力的沉浸式評(píng)測(cè)，這一測(cè)試目標(biāo)是貼合駕駛員的駕駛場(chǎng)景,，去模擬道路交通場(chǎng)景以及傳感器信號(hào),，從而構(gòu)造一個(gè)完整車(chē)輛的閉環(huán)測(cè)試，被稱(chēng)之為整車(chē)在環(huán),；

　　第二個(gè)是通過(guò)測(cè)試硬件在仿真環(huán)境中對(duì)控制命令的反饋,，實(shí)現(xiàn)硬件在環(huán)的測(cè)試。這個(gè)方案主要是應(yīng)用在臺(tái)架試驗(yàn)和道路試驗(yàn)前,，對(duì)自動(dòng)駕駛和輔助駕駛的系統(tǒng)功能進(jìn)行一一的驗(yàn)證,，從而去縮短控制器的研發(fā)周期。

　　第三個(gè)是軟件在環(huán),，把軟件形態(tài)的自動(dòng)駕駛系統(tǒng)和百度的X- Verse仿真引擎去做對(duì)接,，將仿真系統(tǒng)申請(qǐng)的測(cè)試數(shù)據(jù)輸入到測(cè)試系統(tǒng)中，在保證高擬增的前提下,，實(shí)現(xiàn)低成本的軟件測(cè)試需求,。

　　基于以上三個(gè)方向測(cè)試方案，百度已經(jīng)構(gòu)建了一個(gè)從系統(tǒng)到車(chē)機(jī)再到整車(chē)的全鏈廠的測(cè)試體系,。這個(gè)平臺(tái)能夠?qū)崿F(xiàn)場(chǎng)景,、天氣、光照,、對(duì)抗信息等等參數(shù)條件的自定義,，滿足各種差異化的復(fù)雜的,，甚至是極端情況下的安全測(cè)試需求。

　　馬杰表示,，“對(duì)于鐵馬冰河來(lái)說(shuō),，它首先需要解決挑戰(zhàn)是面向safety的，但同時(shí)它也能覆蓋很多Security層面的問(wèn)題,。當(dāng)我們把安全與Meta與元宇宙結(jié)合的時(shí)候,，我們其實(shí)就會(huì)發(fā)現(xiàn)依托我們?cè)贏I、云等方面的積累,，我們能夠帶來(lái)很多的創(chuàng)新,，帶來(lái)很多的可能性?！?/p>

　　去年年底百度推出了首個(gè)元宇宙產(chǎn)品——息壤,，目前鐵馬冰河項(xiàng)目也已經(jīng)入駐息壤中。

　　他介紹,，不同于簡(jiǎn)單的數(shù)字孿生,，在息壤中不僅可以創(chuàng)造出近乎仿真的虛擬環(huán)境，也可以打造一系列數(shù)據(jù),，并且與平行的元宇宙大世界產(chǎn)生互動(dòng),。

　　“我們可以設(shè)想我們可以做一個(gè)真人的NPC，加入到仿真場(chǎng)景中參與測(cè)試,，與車(chē)輛產(chǎn)生交互,，那么就能夠很好地去捕捉和反饋?zhàn)詣?dòng)駕駛在遇到各種人為突發(fā)情況時(shí)，所要面對(duì)的安全威脅,，從而創(chuàng)造出一個(gè)更接近于真實(shí)路況的隨機(jī)安全測(cè)試,。同時(shí)我們也在結(jié)合Fuzzing的思想，將所有干擾因素視為系統(tǒng)的一個(gè)輸入?yún)?shù)進(jìn)行反復(fù)的測(cè)試,，這樣我們就能夠在仿真環(huán)境中,，更為真實(shí)的觀察參與到自動(dòng)駕駛車(chē)輛的整個(gè)評(píng)測(cè)過(guò)程中間去?！?/p>

　　目前百度的這一套鐵馬冰河平臺(tái)已經(jīng)投入到自動(dòng)駕駛的安全評(píng)和智能座艙的交互設(shè)計(jì)等應(yīng)用場(chǎng)景的實(shí)踐當(dāng)中,，通過(guò)與Meta的結(jié)合，運(yùn)用Fuzzing的理念去嘗試更高效地發(fā)現(xiàn)和解決各種safety的存在問(wèn)題,。

　　數(shù)字化時(shí)代安全形勢(shì)更加復(fù)雜

　　需要以新技術(shù)為時(shí)代注入新動(dòng)能

　　馬杰談到，當(dāng)前正處在一個(gè)新與舊相互疊加的時(shí)代,，一方面?zhèn)鹘y(tǒng)安全領(lǐng)域的頑疾還在爆發(fā),，而另外一方面 AI本身的安全性挑戰(zhàn)也超乎了大家對(duì)于安全邊界和傳統(tǒng)框架的認(rèn)知的范疇。舊的問(wèn)題在升級(jí),，新的問(wèn)題在出現(xiàn),，新舊安全問(wèn)題的交融,，正在廣泛的作用于現(xiàn)實(shí)世界。

　　在這個(gè)背景下與AI與Meta等新技術(shù)的結(jié)合,，已經(jīng)成為了必須要予以關(guān)注的方向,，亟需以創(chuàng)新技術(shù)為安全注入新的動(dòng)能。安全從來(lái)不是任何一家公司一個(gè)社區(qū)一個(gè)生態(tài)能夠獨(dú)立解決的事情,，需要以更加開(kāi)放的態(tài)度更廣泛的合作來(lái)共同應(yīng)對(duì),，在開(kāi)放包容多元互建中尋求共贏。對(duì)于新興的AI安全領(lǐng)域來(lái)說(shuō),，這一點(diǎn)尤其重要,。

　　“百度希望跟各界一同從而建立起一個(gè)更為開(kāi)放的行業(yè)生態(tài)，更好地服務(wù)于國(guó)家的網(wǎng)絡(luò)安全建設(shè),，幫助產(chǎn)業(yè)互聯(lián)網(wǎng)的變革,，加速產(chǎn)業(yè)智能化的到來(lái)。秉承有AI更安全的理念,，期待能夠與各位業(yè)界朋友們一起共同迎接AI時(shí)代的新挑戰(zhàn),，共同構(gòu)筑AI時(shí)代的新防線，探索AI未來(lái)的新可能,?！瘪R杰最后談到。

更多信息可以來(lái)這里獲取==>>電子技術(shù)應(yīng)用-AET<<