《電子技術應用》
您所在的位置：首頁 > 通信與網(wǎng)絡 > 設計應用 > 聯(lián)邦學習中基于NMSS和LoRA的魯棒防御機制研究
聯(lián)邦學習中基于NMSS和LoRA的魯棒防御機制研究
網(wǎng)絡安全與數(shù)據(jù)治理
伏欣國1,，王龍1,2,，劉麗澤3, 王雷4，趙建坤1
1.中國電子信息產(chǎn)業(yè)集團有限公司第六研究所,； 2.山東大學網(wǎng)絡空間安全學院,； 3.西安電子科技大學計算機科學與技術學院,； 4.深圳市酷開網(wǎng)絡科技股份有限公司
摘要： 針對聯(lián)邦學習中隱私泄露、數(shù)據(jù)投毒和模型篡改等安全威脅,，構建了一種融合不可篡改秘密共享與低秩適應技術的防御架構,。該方案采用三服務器門限驗證機制與零知識證明技術，確保參數(shù)分片在傳輸和恢復過程中的安全性,；同時,，利用低秩約束與動態(tài)權重聚合算法，有效限制惡意攻擊干擾并降低通信開銷,。在CIFAR-10和mini-ImageNet等數(shù)據(jù)集上的實驗充分驗證了該方法在提高防御準確率,、降低模型誤差和提升系統(tǒng)魯棒性方面的顯著優(yōu)勢，證明了方案在大規(guī)模場景下的實用性和可擴展性,。結論表明,，該架構為聯(lián)邦學習環(huán)境下安全防護提供了一種高效、可行的技術路徑,。
中圖分類號：TP309文獻標識碼：ADOI:10.19358/j.issn.2097-1788.2025.04.004
引用格式：伏欣國,，王龍，劉麗澤,，等. 聯(lián)邦學習中基于NMSS和LoRA的魯棒防御機制研究［J］.網(wǎng)絡安全與數(shù)據(jù)治理,，2025，44（4）：24-31.
Robust defense mechanisms in federated learning: a study based on NMSS and LoRA
Fu Xinguo1,，Wang Long1,2,，Liu Lize3，Wang Lei4, Zhao Jiankun1
1. The Sixth Research Institute of China Electronics Corporation; 2. School of Cyberspace Security, Shandong University; 3. School of Computer Science and Technology, Xidian University; 4. Coocaa Network Technology Co., Ltd.
Abstract： This study addresses security threats in federated learning, including privacy leakage, data poisoning, and model tampering. A defense architecture that integrates Non-Malleable Secret Sharing (NMSS) and Low-Rank Adaptation (LoRA) is proposed. The scheme uses a three-server threshold verification mechanism and zero-knowledge proof technology to secure parameter shards during transmission and recovery. In addition, the method applies low-rank constraints and dynamic weighted aggregation to limit malicious interference and reduce communication overhead. Experiments on the CIFAR-10 and mini-ImageNet datasets verify that the method improves defense accuracy, reduces model error, and enhances system robustness. The results show that the scheme is practical and scalable for large-scale scenarios. The study concludes that the architecture offers an efficient and feasible technical solution for secure federated learning.
Key words : federated learning; privacy-preserving; poisoning attack; LoRA

引言

聯(lián)邦學習（Federated Learning, FL）［1］作為分布式機器學習的重要范式,，通過“數(shù)據(jù)不動模型動”與“數(shù)據(jù)可用而不可見”的機制有效緩解了數(shù)據(jù)孤島問題,，成為隱私保護領域的關鍵技術［2］,。然而,，其去中心化的架構與參數(shù)共享特性,，也引入了多重安全威脅：

(1)隱私泄露風險：模型的梯度信息可能暴露用戶數(shù)據(jù)特征，如嵌入層泄露,、全連接層梯度符號推斷等攻擊手段已被證實可重構原始數(shù)據(jù)［3］,；

(2)投毒攻擊威脅［4］：惡意客戶端通過注入噪聲、翻轉標簽或植入后門,，顯著降低模型性能（如本文3.2.1節(jié)攻擊強度影響實驗結果顯示,，20%惡意客戶端即可使準確率下降超過30%）；

(3)服務器合謀漏洞［5］：傳統(tǒng)安全聚合協(xié)議（如Secure Aggregation）難以抵御多服務器聯(lián)合篡改,，導致全局模型參數(shù)被惡意操控,。

面對以上多種安全威脅，現(xiàn)有防御方案存在以下三大瓶頸：

(1)效率與安全性失衡：同態(tài)加密雖可保護隱私,，但會帶來高達40%的計算開銷［6］,，而差分隱私［7］的噪聲添加在一定程度上會削弱模型可用性［8］；

(2)魯棒性不足：基于統(tǒng)計的聚合方法（如Trim-mean［9］,、Krum［10］）對高隱蔽性攻擊（如生成對抗網(wǎng)絡驅動的投毒［11］）檢測率不足60%,；

(3)通信成本高昂：全參數(shù)傳輸在ViT-Base［12］等大模型中需15 MB/輪的通信量，難以適配資源受限場景,。

現(xiàn)有的聯(lián)邦學習防御機制主要側重于隱私保護與抗攻擊性,，但在面對數(shù)據(jù)投毒、模型篡改等復雜安全威脅時,，防御效果仍存在不足,。針對這一問題，本文提出了一種基于不可篡改秘密共享（Non-Malleable Secret Sharing, NMSS）［13］與低秩適應（Low-Rank Adaptation, LoRA）［14］的融合防御架構,，具有以下創(chuàng)新點：

(1)三服務器門限驗證機制：首次將NMSS與LoRA相結合,，提出了一種新型的三服務器門限驗證機制，通過結合零知識證明（Zero-Knowledge Succinct Transparent ARguments of Knowledge, zk-STARK）［15］,，實現(xiàn)分片不可篡改性與拜占庭容錯［16］,，理論證明合謀攻擊下僅需1臺誠實服務器即可保障參數(shù)完整性［17］；

(2)低秩約束的魯棒性增強：利用LoRA將參數(shù)更新壓縮至低維子空間（秩r=8）,，限制投毒攻擊的擾動空間,，實驗表明可減少32%的準確率下降；

(3)動態(tài)權重聚合算法：結合客戶端行為可信度評估與自適應范數(shù)裁剪,，在CIFAR-10數(shù)據(jù)集實現(xiàn)96.8%的篡改分片檢測率,，同時通信開銷降低至1.7 MB/輪，有效提升了防御能力,，并大幅降低了通信開銷,。

本文工作為聯(lián)邦學習安全領域提供三方面貢獻：首先在理論層面，首次將NMSS的可驗證性與LoRA的低秩特性結合，構建信息論安全框架,；其次在技術層面,，設計分層式三服務器驗證鏈，支持高效分片恢復（<10 ms/客戶端）與動態(tài)惡意節(jié)點隔離,；最后在應用層面,，在miniImageNet非獨立同分布場景下驗證方案有效性，為醫(yī)療,、金融等高敏感領域提供可落地的解決方案［18］,。


本文詳細內(nèi)容請下載：

http://forexkbc.com/resource/share/2000006409


作者信息：

伏欣國1，王龍1,2,，劉麗澤3, 王雷4,，趙建坤1

（1.中國電子信息產(chǎn)業(yè)集團有限公司第六研究所，北京102209,；

2.山東大學網(wǎng)絡空間安全學院,，山東青島266237；

3.西安電子科技大學計算機科學與技術學院,，陜西西安710071,；

4.深圳市酷開網(wǎng)絡科技股份有限公司，廣東深圳518000）


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),，未經(jīng)授權禁止轉載,。