自年初以來(lái),，DeepSeek人工智能大模型在全球范圍內(nèi)掀起熱潮，引發(fā)廣泛關(guān)注與應(yīng)用,。DeepSeek的廣泛應(yīng)用為網(wǎng)絡(luò)安全帶來(lái)哪些挑戰(zhàn),？網(wǎng)絡(luò)安全行業(yè)如何利用好DeepSeek工具，共贏發(fā)展新機(jī)遇,？

2025年3月14日,，由《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)組織成員單位發(fā)起的技術(shù)沙龍活動(dòng)在北京舉行，圍繞“網(wǎng)絡(luò)安全+DeepSeek”主題,，與會(huì)的期刊理事會(huì)成員及行業(yè)內(nèi)相關(guān)專(zhuān)家,、學(xué)者、科研市場(chǎng)人員40余人展開(kāi)熱烈討論,。

北京交通大學(xué)教授盧云龍、中央民族大學(xué)副教授于靜,、深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填,、深圳昂楷科技有限公司董事長(zhǎng)劉永波、杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松,、北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分別帶來(lái)精彩的主題報(bào)告,。本次活動(dòng)由著名網(wǎng)絡(luò)安全專(zhuān)家郭守祥主持。

活動(dòng)現(xiàn)場(chǎng)

北京交通大學(xué)盧云龍教授作了題為“AI Agent智能體：從云端智能到邊緣泛在”的主題報(bào)告,，從AI Agent智能體的發(fā)展背景,、核心框架與范式、關(guān)鍵技術(shù),、行業(yè)應(yīng)用,、挑戰(zhàn)與展望等方面詳細(xì)解讀了AI Agent技術(shù)。他指出，在國(guó)家層面,，“十四五”規(guī)劃明確將人工智能作為核心驅(qū)動(dòng)力,，推動(dòng)智能經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)的深度融合，AI Agent作為新一代生產(chǎn)力工具被納入重點(diǎn)發(fā)展領(lǐng)域,。DeepSeek的廣泛應(yīng)用,，將加速通用人工智能（AGI）時(shí)代到來(lái)，AI Agent將成為通往AGI的基石,。在強(qiáng)化學(xué)習(xí)的推動(dòng)下,，DeepSeek展現(xiàn)出了此前未曾預(yù)見(jiàn)的推理能力，同時(shí)通過(guò)工程與算法等深度耦合,，大幅降低成本,。DeepSeek開(kāi)源其模型預(yù)示著開(kāi)源社區(qū)正以全新的方式推進(jìn)人工智能技術(shù)的發(fā)展，加速通用人工智能時(shí)代到來(lái)并推動(dòng)AI Agent技術(shù)更加成熟,。

AI Agent在車(chē)聯(lián)網(wǎng),、移動(dòng)通信、智慧交通,、智慧醫(yī)療,、新興大模型、通用Agent,、工作服務(wù),、安全服務(wù)等方面有廣泛應(yīng)用。盧云龍表示,，目前大模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用,，主要是以智能體為表現(xiàn)形式，結(jié)合安全的場(chǎng)景,、數(shù)據(jù),、知識(shí)、工具,、流程等構(gòu)建完整的應(yīng)用服務(wù),。安全智能體的應(yīng)用場(chǎng)景包括供應(yīng)鏈安全、流量檢測(cè),、郵件分析,、數(shù)據(jù)安全、樣本分析,、安全運(yùn)營(yíng)等,，全面賦能網(wǎng)絡(luò)安全。

北京交通大學(xué)教授 盧云龍

中央民族大學(xué)于靜副教授帶來(lái)“生成式人工智能大模型確權(quán)技術(shù)與挑戰(zhàn)”的主題報(bào)告,。當(dāng)前,，人工智能包括大模型技術(shù)得到突飛猛進(jìn)的發(fā)展，伴生而來(lái)的是，如何發(fā)揮數(shù)據(jù)在其中的核心價(jià)值,。在數(shù)據(jù)流通共享的過(guò)程中,，一個(gè)基礎(chǔ)的問(wèn)題就是如何確定數(shù)據(jù)的所有權(quán)。如果沒(méi)有確權(quán)作為基礎(chǔ)保障,，整個(gè)流通交易包括權(quán)益分配很難進(jìn)行,。

于靜指出，生成式模型面臨的確權(quán)問(wèn)題可總結(jié)為兩個(gè)方面：第一,，模型確權(quán),，涉及到模型盜用，包括模型微調(diào),、壓縮等,；模型濫用，即用戶使用模型生成惡意內(nèi)容,。第二,，數(shù)據(jù)確權(quán)，包括模型訓(xùn)練階段,，訓(xùn)練數(shù)據(jù)未授權(quán)使用,，以及模型使用階段，提示數(shù)據(jù)未授權(quán)使用,。

在模型確權(quán)關(guān)鍵技術(shù)方面,，對(duì)于模型身份，可使用白盒水印,、黑盒水印,、灰盒水印、無(wú)盒水印等方法,，直接在模型中嵌入水印,，當(dāng)模型被盜取時(shí)，通過(guò)驗(yàn)證水印來(lái)驗(yàn)證模型身份,。對(duì)于模型用戶身份,，可使用模型水印和模型指紋方法，在已知分發(fā)用戶的情況下,，在分發(fā)前向模型中嵌入用戶水印（指紋）,，通過(guò)身份驗(yàn)證判斷模型的使用者/操作者,。

在數(shù)據(jù)確權(quán)方面，關(guān)鍵技術(shù)包括數(shù)據(jù)水印,、數(shù)據(jù)歸因和對(duì)抗攻擊,，分別對(duì)應(yīng)任務(wù)數(shù)據(jù)身份認(rèn)證、訓(xùn)練數(shù)據(jù)溯源和數(shù)據(jù)訪問(wèn)控制。

于靜表示,，在生成式人工智能模型面臨知識(shí)產(chǎn)權(quán)保護(hù)或惡意信息溯源時(shí),，模型水印可以被視為一種重要監(jiān)管手段。生成式模型水印技術(shù)方興未艾,，相關(guān)技術(shù)仍面臨嚴(yán)峻挑戰(zhàn),，如模型水印面對(duì)多維度攻擊的魯棒性，模型水印分配,、存儲(chǔ),、驗(yàn)證的安全性，開(kāi)放環(huán)境下的訓(xùn)練數(shù)據(jù)歸因,，提示圖像的有效歸因等,。這些有待行業(yè)內(nèi)專(zhuān)家學(xué)者的進(jìn)一步探索。

中央民族大學(xué)副教授 于靜

深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填作了題為“DeepSeek大模型訓(xùn)練策略和算法優(yōu)化技術(shù)演進(jìn)”的主題報(bào)告,。報(bào)告詳細(xì)介紹了DeepSeek的發(fā)展路徑以及核心技術(shù),，結(jié)合云天勵(lì)飛的落地場(chǎng)景，分享了DeepSeek在政務(wù)場(chǎng)景中的賦能應(yīng)用,。余曉填指出,，DeepSeek的能力仍存在局限性，AI是助手而非對(duì)手,。因?yàn)镈eepSeek大模型落地應(yīng)用面臨諸多挑戰(zhàn),，這包括性能挑戰(zhàn)：國(guó)產(chǎn)化的性能仍有瓶頸，表現(xiàn)為顯存與帶寬不足,，并發(fā)效率待提升,，長(zhǎng)文本處理能力有限；性價(jià)比挑戰(zhàn)：最佳硬件成本需要優(yōu)化,，R1-671B雖是目前最好的大模型,，但具體場(chǎng)景可能通過(guò)多尺寸模型協(xié)同才經(jīng)濟(jì)；安全挑戰(zhàn)：部署應(yīng)用安全系統(tǒng)缺失,，場(chǎng)景大模型應(yīng)用目前模型層與應(yīng)用層之間存在架構(gòu)脫節(jié),，需要基于統(tǒng)一系統(tǒng)接口，實(shí)現(xiàn)內(nèi)容安全審核,、分級(jí)權(quán)限管理和接口對(duì)接等,；數(shù)據(jù)安全治理挑戰(zhàn)：閉環(huán)數(shù)據(jù)治理難度大，DeepSeek通用能力無(wú)法直接落地應(yīng)用,，需要大量的現(xiàn)有業(yè)務(wù)流程梳理,、本地知識(shí)庫(kù)治理等工作。所以在應(yīng)用場(chǎng)景落地中,，即使是領(lǐng)先的DeepSeek-R1也會(huì)犯常識(shí)性錯(cuò)誤,，未來(lái)一段時(shí)間AI仍是輔助角色,，并非取代人的對(duì)手。

活動(dòng)現(xiàn)場(chǎng)

深圳昂楷科技有限公司董事長(zhǎng)劉永波作了題為“大模型數(shù)據(jù)安全防護(hù)方案探討”的主題報(bào)告,。他指出,，大模型系統(tǒng)更容易存在嚴(yán)重的數(shù)據(jù)安全問(wèn)題。不管是公有模型還是私域模型,，都面臨數(shù)據(jù)泄露,、竊取、篡改等諸多風(fēng)險(xiǎn),，數(shù)據(jù)安全治理迫在眉睫,。

劉永波指出，為應(yīng)對(duì)大模型系統(tǒng)數(shù)據(jù)安全挑戰(zhàn),，必須采用數(shù)據(jù)安全運(yùn)營(yíng)理念進(jìn)行數(shù)據(jù)安全建設(shè),。大模型系統(tǒng)數(shù)據(jù)安全保護(hù)對(duì)象、參與主體,、訪問(wèn)方式等眾多,，在數(shù)據(jù)安全防護(hù)過(guò)程中，需要從頂層規(guī)劃開(kāi)始,，明確安全策略方案,、規(guī)范流程等；再利用安全防護(hù)技術(shù)對(duì)安全風(fēng)險(xiǎn)進(jìn)行有效控制,；同時(shí),，還需要持續(xù)運(yùn)營(yíng)，以保證持續(xù)防護(hù)效果,。

另一方面,，大模型也可賦能數(shù)據(jù)安全。利用大模型的內(nèi)容生成,、自然語(yǔ)言處理,、上下文理解、特征深度挖掘等能力,，在數(shù)據(jù)安全產(chǎn)品研發(fā),、產(chǎn)品能力、產(chǎn)品交付等方面進(jìn)行賦能,，可顯著提升研發(fā)效率,、優(yōu)化用戶體驗(yàn)、推動(dòng)產(chǎn)品創(chuàng)新,。在進(jìn)行敏感數(shù)據(jù)識(shí)別過(guò)程中調(diào)用大模型能力,，可大幅提升識(shí)別準(zhǔn)確率。利用大模型強(qiáng)大的分析與決策能力,，基于數(shù)據(jù),、身份、權(quán)限,、行為,、策略五要素，可對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行智能識(shí)別,、智能挖掘,，以及預(yù)判深層次未知風(fēng)險(xiǎn)。

深圳昂楷科技有限公司董事長(zhǎng) 劉永波

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松介紹了DeepSeek安全垂域解決方案——恒腦智能體,。安全垂域大模型與滿血R1協(xié)同工作,，實(shí)現(xiàn)安全與擴(kuò)展性的兼顧。恒腦智能體框架在安全性方面,，借助容器隔離技術(shù)達(dá)成代碼執(zhí)行隔離,，針對(duì)租戶的知識(shí)庫(kù)訪問(wèn)及服務(wù)調(diào)用實(shí)施嚴(yán)格的權(quán)限管控，結(jié)合內(nèi)容安全過(guò)濾,、熔斷回復(fù)機(jī)制以及價(jià)值觀對(duì)齊機(jī)制,，全方位保障系統(tǒng)安全。在功能性方面,，通過(guò)深度應(yīng)用推理加速,、KV壓縮及上下文緩存等技術(shù)，借助任務(wù)調(diào)度機(jī)制,，實(shí)現(xiàn)復(fù)雜邏輯編排,、多邊并發(fā)執(zhí)行及長(zhǎng)期記憶管理和使用；基于泛節(jié)點(diǎn)架構(gòu),，提供高度自定義體驗(yàn),。在靈活性方面，支持接入不同廠商,、遵循不同規(guī)則的大模型,，借助網(wǎng)關(guān)實(shí)現(xiàn)靈活調(diào)度，同時(shí)能夠?qū)崿F(xiàn)結(jié)構(gòu)化,、非結(jié)構(gòu)化,、半結(jié)構(gòu)化知識(shí)的靈活接入。在適配性方面,，具備廣泛的兼容性,，可與英偉達(dá) A、H,、L及 4090D全系列算力無(wú)縫適配,，同時(shí)兼容華為昇騰、海光K100_AI系列,，并能夠在麒麟,、飛騰等國(guó)產(chǎn)化操作系統(tǒng)環(huán)境下完成部署與應(yīng)用,。

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān) 徐立松

北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分享了“智領(lǐng)未來(lái)，山石網(wǎng)科DeepSeek之路”的主題報(bào)告,。他指出,，大模型雖然具有強(qiáng)大的功能，但也存在巨大的安全風(fēng)險(xiǎn),，包括提示詞攻擊,、供應(yīng)鏈安全、模型無(wú)界濫用,、數(shù)據(jù)泄露,、模型攻擊、內(nèi)容合規(guī)等,。山石網(wǎng)科秉承“開(kāi)放融合,、AI賦能、智慧運(yùn)維”理念,，踐行可持續(xù)安全,，實(shí)現(xiàn)多產(chǎn)品，多業(yè)務(wù),，多伙伴之間的深度,、智能協(xié)同防護(hù)，其自主研發(fā)的大模型應(yīng)用防火墻輕松開(kāi)啟大模型安全防護(hù),，讓AI更安全,。

經(jīng)過(guò)十多年AI能力積累，山石網(wǎng)科已將AI全面賦能產(chǎn)品和公司發(fā)展,，其DeepSeek大模型一體化安全解決方案具有開(kāi)箱即用,、多部署形態(tài)、安全加固,、算力開(kāi)放的特點(diǎn),，實(shí)現(xiàn)了提升業(yè)務(wù)安全性，優(yōu)化安全運(yùn)營(yíng)效率,，滿足數(shù)據(jù)隱私與合規(guī),，助力業(yè)務(wù)創(chuàng)新，全面開(kāi)啟網(wǎng)安新紀(jì)元,。

北京山石網(wǎng)科信息技術(shù)有限公司副總裁 賈宇

此次沙龍活動(dòng)為網(wǎng)絡(luò)安全發(fā)展與DeepSeek大模型搭建了一個(gè)融合互通的平臺(tái),，與會(huì)者普遍認(rèn)為，在大模型時(shí)代下,，攻擊形式和網(wǎng)安需求的改變將刺激網(wǎng)絡(luò)安全市場(chǎng),，對(duì)行業(yè)發(fā)展有一定積極作用。在自由交流環(huán)節(jié),，大家暢所欲言,、熱烈討論,，紛紛表示收獲頗多。

未來(lái),，《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)將組織更多主題的沙龍活動(dòng),，服務(wù)于網(wǎng)絡(luò)安全與數(shù)據(jù)治理領(lǐng)域的技術(shù)交流、科技創(chuàng)新,、產(chǎn)業(yè)發(fā)展。

《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)于2023年底正式成立,，旨在服務(wù)于網(wǎng)絡(luò)強(qiáng)國(guó)和數(shù)字中國(guó)建設(shè),，匯聚“政、產(chǎn),、學(xué),、研、用”各領(lǐng)域智庫(kù)資源,，開(kāi)展網(wǎng)絡(luò)安全和數(shù)據(jù)治理領(lǐng)域重大問(wèn)題研究,、學(xué)術(shù)交流，促進(jìn)優(yōu)秀工程方案和解決方案的推廣應(yīng)用,。