2024年全球隱私計算報告-杭州數(shù)據(jù)協(xié)同創(chuàng)新未來實驗中心

2024年9月指導單位?杭州市數(shù)據(jù)資源管理局聯(lián)合發(fā)起單位?浙江大學區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室支持單位特別支持單位張秉晟王鵬熊婷.參編人員許苗峰、殷澤原、郭大宇、胡爽、應(yīng)琦、潘凱偉、林洋、梁子軒、劉澤宇、申奇、申冠生、武通、盧天培、錢潤芃、盧益彪、田磊原、馮宇揚、徐澤森、張洵、張文、吳鈺沁、彭樂坤、張菊芳、黃益超、謝琴超、周旦、鄭超章2024全球隱私計算報告隱私計算產(chǎn)業(yè)發(fā)展概況2024全球隱私計算報告2024全球隱私計算報告?國家數(shù)據(jù)局積極探索布局數(shù)據(jù)基礎(chǔ)設(shè)施，加快數(shù)據(jù)空間等技術(shù)研究，推動隱私計算技術(shù)應(yīng)用，打造安??隱私計算是用于保護數(shù)據(jù)安全、個人信息和商業(yè)秘密，促進數(shù)據(jù)高效流?助力實現(xiàn)數(shù)據(jù)“供得出”“流得動”“用得好”“保安全”2024全球隱私計算報告2024全球隱私計算報告安全多方計算（MPC）?學術(shù)界嚴謹?shù)陌踩C明?數(shù)據(jù)控制力強?不依賴特殊硬件?無硬件信任根，國密化方案較為可控?有通用運算能力，但性能相對較低?數(shù)據(jù)提供方增多性能會下降，一般適用于5方以下聯(lián)邦學習（FL）?數(shù)據(jù)控制力強?不依賴特殊硬件?無硬件信任根，國密化方案較為可控?存在部分安全風險?無通用運算能力?數(shù)據(jù)提供方增多性能會下降，垂直場景一般建議于10方以下可信執(zhí)行環(huán)境（TEE）?理論上支持所有算法?計算精度高，與明文一致?計算性能支持大規(guī)模且性能損失小?隨著數(shù)據(jù)提供方增多不會有明顯性能下降?數(shù)據(jù)控制力比較弱?需要相信硬件信任根?需要額外硬件成本差分隱私（DP）?可證明可衡量的個體隱私保護技術(shù)?與上面所有技術(shù)路線可獨立疊加?計算精度明文比會有所下降，需結(jié)合算法流程設(shè)計?不保護數(shù)據(jù)使用價值同態(tài)加密（HE）?是經(jīng)典MPC、聯(lián)邦學習方案重要基石，是目前隱私計算PK性能的關(guān)鍵?通用FHE方案性能挑戰(zhàn)大，硬件加速還在發(fā)展中零知識證明?驗證速度快，證明通信量較小?不泄露任何隱私信息?能與其他隱私計算技術(shù)聯(lián)合使用?協(xié)議復雜，開發(fā)成本高?大規(guī)模計算時證明開銷大2024全球隱私計算報告2024全球隱私計算報告0202030304042024全球隱私計算報告2024全球隱私計算報告?技術(shù)加速創(chuàng)新并與區(qū)塊鏈、人工智能等新?相關(guān)技術(shù)標準和產(chǎn)業(yè)規(guī)范逐步完善、產(chǎn)業(yè)鏈完整。隱私計算生態(tài)包括數(shù)據(jù)提供方、數(shù)據(jù)加工方、數(shù)2024全球隱私計算報告2024全球隱私計算報告）：護?加拿大人工智能和數(shù)據(jù)法案（AIDA）：重點userid:529794,docid:176240,date:2024-09-27,sgpjbg2024全球隱私計算報告2024全球隱私計算報告產(chǎn)業(yè)界進展未來發(fā)展方向?技術(shù)融合與創(chuàng)新：隱私計算與A?性能優(yōu)化：當前隱私計算和AI技術(shù)?產(chǎn)業(yè)定制化解決方案：不同產(chǎn)業(yè)對隱私計算和AI技術(shù)的需求不同。未來將出現(xiàn)更多針對特定產(chǎn)業(yè)需求的定制化解決2024全球隱私計算報告2024全球隱私計算報告2024全球隱私計算報告 AIAIZAA Wrinspur艱潮intel.AMD2024全球隱私計算報告2024全球隱私計算報告公司名稱要點技術(shù)能力擅長領(lǐng)域應(yīng)用場景國外ZamaInpherEaglysCapePrivacyPyte.aiCryptolabs杭州金智塔科技有限公司Concrete,Concrete-MLSecretComputing?,SecurAI隱私增強技術(shù)，MPC和安全多方數(shù)據(jù)分析平臺保密計算技術(shù)，API加密狀態(tài)下的機器學習工具集安全多方計算（MPC區(qū)塊鏈安全隱私計算平臺、數(shù)據(jù)合規(guī)流通平臺、容器計算平臺、數(shù)據(jù)資產(chǎn)登記平臺等金融、醫(yī)療、區(qū)塊鏈金融、醫(yī)療金融、醫(yī)療醫(yī)療、金融醫(yī)療、金融金融、區(qū)塊鏈政務(wù)、金融、零售、制造業(yè)提供隱私保護應(yīng)用程序開發(fā)，支持機器學習和其他計算任務(wù)安全計算，跨組織數(shù)據(jù)孤島協(xié)作，大語言模型推理數(shù)據(jù)安全共享和協(xié)作數(shù)據(jù)去識別化和重新識別，安全文檔處理加密狀態(tài)下訓練和推理模型多方協(xié)作計算，智能合約安全政公共數(shù)據(jù)授權(quán)運營、智能風控、反欺詐、智能營銷、智能選址、智能制造等國內(nèi)浙江螞蟻密算科技有限公司神州融安數(shù)字科技(北京)有限公司以密態(tài)計算技術(shù)創(chuàng)新應(yīng)用及開源社區(qū)共建賦能可信數(shù)據(jù)要素流通建設(shè)融安隱私計算平臺、融安隱私計算一體機政務(wù)、金融、醫(yī)療、互聯(lián)網(wǎng)保險、公安、營銷公共數(shù)據(jù)開放、密態(tài)醫(yī)療大模型、密態(tài)大模型知識庫、智能風控、車險定價等醫(yī)保智能風控業(yè)務(wù)、銀行營銷用戶畫像及標簽等2024全球隱私計算報告2024全球隱私計算報告Privacy-PreservingDataAnalytics（Uber）“翠湖”安全處理器和全同態(tài)協(xié)處理器（中關(guān)村實驗室）2024全球隱私計算報告2024全球隱私計算報告n開源促進了隱私計算的快速發(fā)展開源技術(shù)可以有效促進隱私計算技術(shù)的發(fā)展、普及及應(yīng)用推廣，開源項目降低了隱私計算產(chǎn)業(yè)門檻，從而進一步促進產(chǎn)業(yè)的發(fā)展與繁榮。n開源提升了隱私計算平臺的安全性在隱私計算領(lǐng)域，安全性是核心關(guān)切。開源社區(qū)的代碼透明、審查公開，用戶可以檢驗和監(jiān)督平臺的安全性。這種開放性有助于及時發(fā)現(xiàn)并解決產(chǎn)品中的潛在安全問題。n國內(nèi)外開源隱私計算技術(shù)與應(yīng)用不斷涌現(xiàn)，包括微軟、螞蟻集團、原語科技、UC伯克利、復旦大學等國內(nèi)外企業(yè)與高校推出多個隱私計算開源項目，進一步促進隱私計算技術(shù)普及、應(yīng)用和發(fā)展。由微眾銀行開源的聯(lián)邦學習開源項目，提供了一種基于數(shù)據(jù)隱私保護的安全計算框架，為機器學習、深度學習、遷移學習算法提供強有力的安全計算支持。由螞蟻集團研發(fā)的開源可信隱私計算框架，以安全、中立、易用為核心設(shè)計理念，用一套通用框架支持了包括安全多方計算（MPC）、聯(lián)邦學習（FL）、同態(tài)加密（HE）、可信執(zhí)行環(huán)境（TEE）以及差分隱私（DP）在內(nèi)的多種主流隱私計算技術(shù)，是國內(nèi)生態(tài)影響力最大的開源社區(qū)，技術(shù)方案最為齊全的隱私計算框架之一。由復旦大學Daslab實驗室韓偉力教授及其學生獨立研發(fā)的開源安全多方學習平臺，是基于BGW協(xié)議的開源安全多方學習框架。由原語科技研發(fā)的開源可信隱私計算平臺，該平臺融合了安全多方計算（MPC）、聯(lián)邦學習信執(zhí)行環(huán)境（TEE）等多種隱私計算技術(shù)。由微軟開源的安全多方學習框架，針對安全推理場景提供了相對完備的安全級別定義，相關(guān)研究工作自成一體，是安全多方學習框架中安全推理場景的標桿之一。由CSIROData61Engineering&Design機構(gòu)MarcelKeller獨立維護，支持安全多方計算（MPC）及同態(tài)加密（HE）隱私計算技術(shù)。由UCBerkleyRise實驗室維護安全多方學習框架，主要通過GPU對本地密文計算進行加速，提高本地運算效率，是隱私計算領(lǐng)域中使用GPU加速本地密文計算的先行者。由Zama公司開發(fā)的Concrete和Concrete-ML框架，是由Rust編寫的FHE框架，旨在讓密碼學家和開發(fā)人員能夠以最小的開銷創(chuàng)建隱私保護應(yīng)用程序。2024全球隱私計算報告2024全球隱私計算報告2024全球隱私計算報告說明：MPC中除去PSI、PIR相關(guān)工作0ZKP28%MPC33%TEE6%說明：MPC中除去PSI、PIR相關(guān)工作PSI&PIRFHE）：私2024全球隱私計算報告2024全球隱私計算報告3%?門限加密/簽名算法、混淆算法是MPC中經(jīng)典的研究課題。門限方案允許一組參與方分享個參與方能夠?qū)ο⑦M行解密/簽名；混淆算法起源于經(jīng)典的姚氏混淆抵御適應(yīng)性敵手的能力、底層假設(shè)、在實際場景下的健?關(guān)于混淆算法的研究聚焦于：算法的性能、算術(shù)電路/算術(shù)-布爾混合電路的混淆?非平衡場景有：星型網(wǎng)絡(luò)拓撲場景、算力非平衡場景、參與方權(quán)重不同場認證、網(wǎng)絡(luò)服務(wù)、密鑰管理、動態(tài)數(shù)據(jù)庫分2024全球隱私計算報告2024全球隱私計算報告應(yīng)用?AEX-Notify解決方案已被納入IntelSGX修?Gramine-TDX基于Grami?2024全球隱私計算報告2024全球隱私計算報告ZKVM（零知識證明虛擬機）。使用高級語言編寫的程序可以自動生成零知識ZKVM（零知識證明虛擬機）。使用高級語言編寫的程序可以自動生成零知識證明。Dora是專為ZKVM設(shè)計的高效零知識證明協(xié)議，它很好的平衡了指令數(shù)量和指令復雜度，使得向處理器添加指令的開銷幾乎為零。另一個新奇的ZKVM實現(xiàn)途徑是，使用定制的零知識證明系統(tǒng)，證明在SatisfiabilityModuloTheories(SMT)范式下的各種等式，如布爾邏輯。FoldingScheme。Nova是為IVC（incrementalverifiablecomputation）專門設(shè)計的零知識證明方案。其本質(zhì)是一種高效的算術(shù)化表示方法，通過對約束系統(tǒng)的不斷壓縮，只需驗證一次，大大減少了開銷。SuperNova處理了每次調(diào)用函數(shù)不同時的情況，同時運行多個folding實例，根據(jù)調(diào)用的不同，更新相對應(yīng)的實例。而HyperNova適應(yīng)于最新的算術(shù)約束系統(tǒng)CSS（FoldingScheme。Nova是為IVC（incrementalverifiablecomputation）專門設(shè)計的零知識證明方案。其本質(zhì)是一種高效的算術(shù)化表示方法，通過對約束系統(tǒng)的不斷壓縮，只需驗證一次，大大減少了開銷。SuperNova處理了每次調(diào)用函數(shù)不同時的情況，同時運行多個folding實例，根據(jù)調(diào)用的不同，更新相對應(yīng)的實例。而HyperNova適應(yīng)于最新的算術(shù)約束系統(tǒng)CSS（customizableconstraintsystem并使用了名為CycleFold的技術(shù)，使得證明方案能在一對循環(huán)曲線上進行高效的遞歸。PostQuantum。后量子安全的零知識證明方案一直是研究的前沿方向，基于格的零知識證明方案近兩年在實用性上得到了較大的突破。其中，LaBRADOR證明系統(tǒng)通過基于格的遞歸攤銷R1CS證明系統(tǒng)，實現(xiàn)了證明大小優(yōu)化，其證明大小僅由遞歸的最后一步?jīng)Q定，與初始R1CS實例的大小無關(guān)。Greyhound是第一個基于標準的格假設(shè)的多項式承諾方案，當多項式的度高時，其evaluation證明大小較小，達到了實用的程度。分布式。減少零知識證明高昂的證明開銷、將證明過程并行或者分布式是現(xiàn)實的需求。Pianist是一個基于Plonk的高效分布式零知識證明協(xié)議，為并行電路和通用電路都設(shè)計了并行化方法。該框架包含了一個分布式的多項式IOP協(xié)議和一個可分布式計算的多項式承諾方案。Collaborative零知識證明系統(tǒng)中，證明者會分發(fā)證明任務(wù)給多個子證明者，其他證明者會協(xié)作生成證明。ZKSaas是一個典型代表，其證明者可以通過秘密分享技術(shù)，讓一組其他證明者通過安全多方計算的方式，安全生成證明，而不會泄露隱私信息。ZK隱私保護。在區(qū)塊鏈研究中，實現(xiàn)隱私保護的審計而不犧牲系統(tǒng)的安全性和可信性是一個關(guān)鍵的研究領(lǐng)域。zkCross，這是一種新穎的雙層跨鏈架構(gòu)，配備了三種跨鏈協(xié)議，以實現(xiàn)隱私保護的跨鏈審計。其中，兩個協(xié)議分別用于隱私保護的跨鏈轉(zhuǎn)賬和交換，第三個協(xié)議則是高效的跨鏈審計協(xié)議。這些協(xié)議基于堅實的跨鏈方案，以保證隱私保護和審計效率。ZK投票。為了保證電子投票中沒有選票被添加、遺漏或更改，使用零知識證明來提供公開可驗證的證明，證明輸出的選票是輸入選票的重新加密的排列。通過Coq證明助手對Bayer-Groth洗牌證明的安全性進行了機器檢查。隨后提取了驗證器（軟件用于檢查Bayer-Groth實現(xiàn)生成的證明，并使用該驗證器對正在為瑞士國家選舉開發(fā)的瑞士郵政電子投票系統(tǒng)的證明進行檢查。ZK身份驗證。對于許多用戶來說，基于私鑰的錢包是進入?yún)^(qū)塊鏈的主要方式。常見的錢包認證方法可能會顯得繁瑣。這種用戶入門的難度顯著阻礙了區(qū)塊鏈應(yīng)用的普及。zkLogin，這是一種新穎的技術(shù)，利用由流行平臺（如啟用OpenIDConnect的平臺，例如Google、Facebook等）發(fā)行的身份令牌來認證交易。zkLogin提供了強大的安全性和隱私保障。然而，與之前相關(guān)的工作不同，zkLogin避免了額外的受信方（如受信硬件或預言機）來提供其安全保障。zkLogin利用零知識證明確保用戶的鏈下身份和鏈上身份之間的鏈接被隱藏，甚至對平臺本身也是不可見的。zkLogin核心的簽名方案使得在區(qū)塊鏈之外進行許多重要應(yīng)用成為可能。2024全球隱私計算報告2024全球隱私計算報告?PSI，即隱私集合求交?PSI，即隱私集合求交，要求兩方或多方在不泄露額外信息的前提下得到集合的交集。大多數(shù)文獻的研究聚焦于標準PSI，關(guān)注點包括安全性、通信效率、計算效率。?安全性方面，D?rre等人提出能夠在含有側(cè)信道的可信執(zhí)行環(huán)境（TEE）下安全運行的PSI協(xié)議。?通信效率方面，Bienstock等人通過對不經(jīng)意鍵值存儲（OKVS）進行改進，優(yōu)化了鍵值對編碼效率。?在計算效率上，Kerschbaum等人提出在離線階段執(zhí)行昂貴操作的比較協(xié)議，可用于PSI協(xié)議并提高響應(yīng)速度。?此外，許多研究關(guān)注不平衡場景——這在實際應(yīng)用中更為常見。例如，Sun等人對個多客戶端與服務(wù)器分別獨立執(zhí)行PSI協(xié)議的場景進行了優(yōu)化，使每個客戶端的執(zhí)行協(xié)議的復雜度與自身集合大小呈線性關(guān)系。?除標準PSI外，許多文獻關(guān)注PSI的變體，例如電路PSI，模糊PSI，閾值PSI，結(jié)構(gòu)感知PSI。?電路PSI的輸出是集合交集的秘密分享，允許參與方基于集合交集做進一步的計算，而交集本身對兩方保密。Hao等人提出了不經(jīng)意鍵值檢索（OKVR并據(jù)此構(gòu)建了高效的不平衡電路PSI方案。?模糊PSI將“距離接近”的兩個元素視作相同元素匹配。Chakraborti等人提出DA-PSI返回在距離閾值內(nèi)的匹配。?閾值PSI僅在交集大小高于閾值時獲得交集，Liu等人在閾值PSI的基礎(chǔ)上提出了多方概率閾值PSI，以較小概率的不良事件為代價，換取了協(xié)議的高效性和可擴展性。?結(jié)構(gòu)感知PSI（sa-PSI）由Garimella等人在2022年提出，其中一方持有的集合為公開的結(jié)構(gòu)，近年來Garimella等人又對sa-PSI在抗惡意性和計算開銷等方面進行了優(yōu)化。?PIR，即隱私信息檢索，指用戶向服務(wù)器提交查詢請求時，在用戶查詢隱私信息不被泄漏的條件下完成查詢。多數(shù)文獻聚焦于PIR在效率上的優(yōu)化，關(guān)注點包括：底層假設(shè)、預處理、計算外包。?底層假設(shè)方面，Lazzaretti等人提出了基于DDH假設(shè)的雙服務(wù)器PIR協(xié)議，在性能上優(yōu)于前人基于LWE的構(gòu)造。?許多研究通過使用預處理方式，增加查詢的響應(yīng)速度。例如，Ghoshal等人分別在雙服務(wù)器和單服務(wù)器上提出了新的預處理PIR方案，有效降低了在線帶寬。?此外，Li等人通過將計算中昂貴的部分“外包”給服務(wù)器，同樣對PIR查詢的效率進行了優(yōu)化。?一些文獻則更加關(guān)注協(xié)議的抗惡意性與隱私性。例如，Park等人提出了容忍至多兩個惡意節(jié)點的高性能多服務(wù)器PIR方案；Dietz等人提出了抗惡意的、允許查詢中途終止的PIR協(xié)議。?一些文獻對批量PIR進行了研究。Mughees等人提出了計算和通信效率都較高的批量PIR協(xié)議，Liu等人提出了支持批量查詢的PIR協(xié)議PIRANA，且該協(xié)議對數(shù)據(jù)庫頻繁更新的場景更加友好。PSI類型文獻數(shù)標準PSI電路PSI2模糊PSI2閾值PSI1結(jié)構(gòu)感知PSI2PIR研究方向效率優(yōu)化16抗惡意性4隱私性2批量PIR2其它4?共有5篇文獻對PSU進行研究，主要聚焦于新的PSU協(xié)議框架，以及對非平衡PSU的優(yōu)化。文獻數(shù)2024全球隱私計算報告2024全球隱私計算報告88FHE論文分類統(tǒng)計優(yōu)化Bootstrapping提升FHE?Bootstrapping作為FHE優(yōu)化Bootstrapping提升FHE?Bootstrapping作為FHE中的關(guān)鍵操作，用于恢復加密數(shù)據(jù)的精度?通過優(yōu)化盲旋轉(zhuǎn)操作、使用小型評估密鑰來優(yōu)化FHEW的Bootstrapping過程?基于SIMD技術(shù)的BatchBootstrapping框架將FHE乘法操作的需求減少到常數(shù)級別?對于經(jīng)典FHE加密方案BGV、BFV、CKKS的Bootstrapping過程也有不同方式的優(yōu)化?對密鑰分解、多項式計算、矩陣向量乘法進行優(yōu)化...?研究者們提出了一種基于LWE問題的簡化門限FHE加密方案?在深度神經(jīng)網(wǎng)絡(luò)、在卷積神經(jīng)網(wǎng)絡(luò)、算法方面提高了計算效率?神經(jīng)網(wǎng)絡(luò)推理方面提出了一種創(chuàng)新的方法NeuJeans，通過聯(lián)合優(yōu)化卷積操作和Bootstrapping，解決了隱私保護神經(jīng)網(wǎng)絡(luò)推理中的效率問題。?統(tǒng)一的中間表示方法HEIR、新型的明文編碼方案VERITAS、專為FHE設(shè)計的編譯器HECO?轉(zhuǎn)密、PSU、數(shù)據(jù)存儲與檢索?加速FHE運算的硬件加速器、高效可擴展的數(shù)據(jù)庫系統(tǒng)、利用同態(tài)加密的單服務(wù)器PIR方案.?量子全同態(tài)方案的安全性和實用性產(chǎn)生了重要的改進?精確FHE方案（如BFV、BGV和TFHE）也容易受到CPAD攻擊?提出了一種改進的FHE方案，通過引入可驗證性機制，超越了傳統(tǒng)IND-CCA1安全性模型?提出了PELTA機制，通過零知識證明和一系列的驗證機制抵御惡意參與者的攻擊統(tǒng)計了2023與2024年發(fā)表在四大安全會議（CCS,USENIXSecurity,IEEES&P,NDSS）和三大密碼學會議（CRYPTO,EUROCRYPT,ASIACRYPT）的關(guān)于MPC的論文，共44篇。截至本報告寫作之時，ASIACRYPT2024的論文尚未公布，故未加入統(tǒng)計。4935本地DP,6技術(shù),4主要集中在用戶級差分隱私和本地差分隱私。?用戶級差分隱私：Dong等人研究了針對用戶級差分隱私的持續(xù)觀察機制，這些機制無需對數(shù)據(jù)進行先驗限制，并在效用上接近靜態(tài)情況的最優(yōu)值。?本地差分隱私：基于鏈接的局部差分隱私方法，可以保護圖中鏈接的隱私；針對本地差分隱私頻繁項集挖掘協(xié)議的數(shù)據(jù)投毒攻擊；首個在本地差分隱私下進行數(shù)據(jù)挖掘任務(wù)的方法LDP-RM；優(yōu)化局部差分隱私協(xié)議中的頻率估計問題的卷積框架等。DP理論研究,2024全球隱私計算報告??針對差分隱私的定義，可提出新的模型，并定義新的差分隱私算法，使其滿足差分隱私定義，且有某些方面的改進與提升。?Ji等人提出的R1MSG機制，通過使用一種特殊的低秩協(xié)方差矩陣，顯著降低了精度損失，且能生成更穩(wěn)定的噪聲。?差分隱私的應(yīng)用或是差分隱私與其他隱私計算技術(shù)結(jié)合后的應(yīng)用，得到了研究者廣泛關(guān)注。?差分隱私與零知識證明：Biswas等人提出了一種可驗證的差分隱私計數(shù)查詢機制，要求發(fā)布方生成零知識證明，確保輸出既符合差分隱私，同時又能保證不暴露任何隨機性信息。?差分隱私與安全多方計算：Wei等人將差分隱私用于安全多方計算，可以較快地生成安全參數(shù)較高的離散高斯樣本。?差分隱私與聯(lián)邦學習：跨機構(gòu)聯(lián)邦學習中實現(xiàn)記錄級個性化差分隱私的rPDP-FL框架、PrivateFL方法改進了差分隱私用于聯(lián)邦學習時的精度下降。?差分隱私與機器學習：評估不同的差分隱私算法在圖像分類任務(wù)中的效用和抵御成員推理攻擊的能力的評估工具DPMLBench、模型在面對差分隱私引入的噪聲時能夠保持更好的性能的新技術(shù)DPAdapter，還有一些差分隱私用于機器學習的新算法等。?其他：差分隱私應(yīng)用于側(cè)信道的研究、差分隱私與其他數(shù)學模型結(jié)合等。?有部分研究對經(jīng)典的DP-SGD算法進行了更深入的分析，比如“數(shù)據(jù)依賴”分析、驗證該算法的信息泄露、研究該算法梯度裁剪引入的偏差等。?也有研究工作提出了更好的算法，比如Du等人提出了一種通過在語言模型前向傳播中直接擾動嵌入矩陣的差分隱私方法DP-Forward，與DP-SGD相比減少了計算和存儲成本；Feng等人提出了Spectral-DP算法，結(jié)合頻域梯度擾動和頻譜濾波，通過降低噪聲規(guī)模以提高效用。?差分隱私理論方面的研究也有不少進展：?在差分隱私的預算方面，近兩年的研究工作研究了如何解決預算管理不足、如何有效分配預算等問題。其他工作研究了差分隱私中最優(yōu)隨機化的構(gòu)建、錯誤界限改進、差分盲目性改進、審批機制改進、差分隱私和自適應(yīng)數(shù)據(jù)在空間復雜度上的差異分析等問題。2024全球隱私計算報告·廠各研究方向進展?聯(lián)邦學習的隱私保護是其主要優(yōu)勢之一，差分隱私（DP）技術(shù)已經(jīng)被廣泛應(yīng)用于保障用戶數(shù)據(jù)的安全。然而2024全球隱私計算報告·廠各研究方向進展?聯(lián)邦學習的隱私保護是其主要優(yōu)勢之一，差分隱私（DP）技術(shù)已經(jīng)被廣泛應(yīng)用于保障用戶數(shù)據(jù)的安全。然而，DP帶來的精度損失和對異質(zhì)性數(shù)據(jù)的影響仍是待解決的挑戰(zhàn)?例如，Yang等人通過個性化數(shù)據(jù)轉(zhuǎn)換減少了差分隱私引入的異質(zhì)性，從而提高聯(lián)邦學習模型的精度。Jiang等人提出了標簽分布擾動機制，實現(xiàn)個體隱私和標簽分布隱私的雙重保護?聯(lián)邦學習容易受到中毒攻擊和后門攻擊威脅，攻擊者可以通過惡意客戶端修改模型更新?，F(xiàn)有的防御機制主要通過檢測惡意更新、限制更新空間或引入認證機制來提高魯棒性?例如MESAS、RoFL、FedVal、FreqFed、CrowdGuard、AutoAdapt、BackdoorIndicator、3DFed、BayBFed、FedRecover等多種防御框架被提出，被用于攻擊檢測、自適應(yīng)工具防御、后門攻擊等各種復雜場景之下的攻擊防御。?聯(lián)邦學習中的分布式模型更新和聚合協(xié)議旨在確?？蛻舳烁碌碾[私，同時抵御惡意客戶端的攻擊?，F(xiàn)有方法如安全聚合協(xié)議、基于概率的檢測機制提供了初步的解決方案，但面臨通信成本和計算效率的挑戰(zhàn)。?例如，Ma等人提出Flamingo協(xié)議，引入輕量級丟棄容錯機制，顯著提高了訓練效率，同時保持模型準確性。Rathee等人提出了ELSA安全聚合協(xié)議，專注于應(yīng)對惡意行為者的存在，并通過創(chuàng)新的分布式信任機制保證了客戶端更新的隱私和防御惡意客戶端。?聯(lián)邦學習的魯棒性設(shè)計旨在防御惡意更新和各種對抗性攻擊。現(xiàn)有研究提出了基于認證、評分和排名的機制來提高FL模型的穩(wěn)健性。?例如Xie等人探討了差分隱私與中毒攻擊認證魯棒性之間的內(nèi)在聯(lián)系。通過用戶級和實例級差分隱私的形式分析，研究提供了兩種魯棒性認證標準，并展示了如何在提高隱私保護的同時增強認證攻擊的無效性。Fang等人提出BALANCE算法，并通過理論和實驗結(jié)果證明了該算法在面對中毒攻擊時的有效性。?個性化聯(lián)邦學習（PFL）允許每個客戶端根據(jù)自身的局部數(shù)據(jù)分布定制模型，提升個體性能。然而，這種個性化也為潛在攻擊者提供了新的攻擊向量，特別是后門攻擊等復雜威脅。?例如，Lyu等人探討了個性化FL中的潛在后門攻擊，提出了PFedBA攻擊策略，通過優(yōu)化觸發(fā)器生成過程有效規(guī)避現(xiàn)有防御機制。Xu等人提出ACE攻擊，展示了惡意客戶端如何通過操控本地模型參數(shù)提升自身的貢獻評估，并探索了六種防御措施，結(jié)果顯示這些防御不足以阻止ACE攻擊。*統(tǒng)計了2023與2024年發(fā)表在四大安全會議（CCS,USENIXSecurity,IEEES&P,NDSS）上關(guān)于FL的論文，共36篇。截至本報告寫作之時，ASIACRYPT2024的論文尚未公布，因此未加入統(tǒng)計。有些論文同時屬于多個類別，分類時存在重疊。62024全球隱私計算報告2024全球隱私計算報告民章2024全球隱私計算報告隱私計算產(chǎn)業(yè)應(yīng)用分析2024全球隱私計算報告2024全球隱私計算報告?zhèn)€個002024全球隱私計算報告2024全球隱私計算報告在隱私保護領(lǐng)域的進一步創(chuàng)新。該平臺是Apple基于其強大的??隱私成為云端智能計算的核心競爭力在日益重視隱私的時代，PrivateCloudCompute提供了一種新模式，確保在享受云計算帶來的強大智能時，用戶的隱私和數(shù)據(jù)安全不會受到侵犯。這一模式使Apple成為了產(chǎn)業(yè)內(nèi)隱私保護領(lǐng)域的標桿。?打破“隱私與智能化無法兼得”的認知傳統(tǒng)上，用戶常常認為要想獲得智能化的服務(wù)，必須犧牲部分隱私，而Apple的PrivateCloudCompute平臺通過技術(shù)創(chuàng)新打破了這種矛盾，使得用戶能夠在不損害隱私的前提下，享受與日俱增的智能服務(wù)。?推動產(chǎn)業(yè)隱私保護標準提升PrivateCloudCompute的推出推動了云計算和AI產(chǎn)業(yè)的隱私保護標準，促使更多公司關(guān)注用戶數(shù)據(jù)隱私問題，進一步推動了全球數(shù)據(jù)隱私保護法律法規(guī)的落實。?適應(yīng)AI時代的數(shù)據(jù)需求AI需要大量數(shù)據(jù)進行訓練和推理，而如何在不泄露隱私的前提下處理這些數(shù)據(jù)是一個巨大挑戰(zhàn)。PrivateCloudCompute提供了一個新的解決方案，允許AI技術(shù)繼續(xù)進步的同時，不必擔心用戶隱私泄露。n本地級別的隱私保護擴展到云端PrivateCloudCompute將Apple在設(shè)備端的隱私保護技術(shù)（如差分隱私、設(shè)備端處理、端對端加密等）無縫擴展到云端。這樣，用戶的數(shù)據(jù)即使在云端進行處理，依然享有與本地設(shè)備上同等的隱私保護。n加密處理與計算平臺采用先進的同態(tài)加密和多方安全計算技術(shù)，確保數(shù)據(jù)在加密狀態(tài)下依然可以進行處理和分析。這意味著即使在云端，數(shù)據(jù)也不會被解密，從而實現(xiàn)完全的數(shù)據(jù)隱私保護。n差分隱私技術(shù)PrivateCloudCompute平臺利用差分隱私技術(shù)，通過在數(shù)據(jù)中加入噪聲確保單個用戶的隱私。即使大量數(shù)據(jù)被用于AI訓練或統(tǒng)計分析，個人數(shù)據(jù)仍然難以被識別或追蹤。n個性化與隱私的平衡用戶可以通過平臺享受個性化服務(wù)，比如廣告推薦、智能助手等，而這些服務(wù)不需要實際讀取或存儲用戶的個人數(shù)據(jù)。所有個性化推薦和分析均在加密數(shù)據(jù)上完成，保護了用戶的隱私。n端到端加密保障所有用戶與云端之間的數(shù)據(jù)傳輸都經(jīng)過端到端加密，確保數(shù)據(jù)在傳輸過程中無法被竊取或篡改。無論是用戶的輸入還是云端計算的輸出，Apple都保證數(shù)據(jù)始終處于加密狀態(tài)。2024全球隱私計算報告2024全球隱私計算報告.??保障用戶隱私在數(shù)字化時代，用戶數(shù)據(jù)成為了最重要的資源之一，如何保護用戶隱私不被濫用是整個產(chǎn)業(yè)的難題。PPA平臺通過技術(shù)手段在不獲取用戶原始數(shù)據(jù)的前提下，實現(xiàn)高效的數(shù)據(jù)歸因，解決了隱私保護與數(shù)據(jù)利用之間的矛盾，極大提高了用戶對廣告和數(shù)據(jù)分析平臺的信任度。?推動合規(guī)發(fā)展隨著各國對數(shù)據(jù)隱私監(jiān)管的不斷加強，企業(yè)面臨的合規(guī)壓力日益增大。PPA平臺的隱私保護機制使其能夠適應(yīng)全球范圍內(nèi)不同的隱私法律要求，幫助企業(yè)規(guī)避法律風險。同時，該平臺也促進了隱私保護技術(shù)的應(yīng)用和發(fā)展，推動了整個產(chǎn)業(yè)的合規(guī)進程。?提升數(shù)據(jù)利用效率通過隱私保護技術(shù)，PPA平臺解決了以往歸因分析中的數(shù)據(jù)孤島問題，使得不同平臺的數(shù)據(jù)可以安全共享與交互，最終提高了數(shù)據(jù)利用的效率和歸因分析的準確性。這對于廣告主來說，意味著可以更好地評估廣告投放效果，優(yōu)化營銷策略，最大化廣告投入回報率。?產(chǎn)業(yè)創(chuàng)新的標桿作為一種新型的隱私保護解決方案，PPA平臺樹立了產(chǎn)業(yè)創(chuàng)新的標桿。其應(yīng)用不僅局限于廣告歸因，還可以擴展到金融、醫(yī)療等需要保護隱私的產(chǎn)業(yè)，具有廣泛的應(yīng)用前景。n隱私保護為核心GDPR、美國的CCPA等嚴格的隱私法下n多方參與的數(shù)據(jù)處理n數(shù)據(jù)歸因的精確性和實時性n跨平臺協(xié)作能力2024全球隱私計算報告2024全球隱私計算報告nn提升整體股權(quán)交易效率通過隱私計算技術(shù)，在確保企業(yè)經(jīng)營數(shù)據(jù)安全的前提下，從征信公司的業(yè)務(wù)系統(tǒng)中調(diào)取數(shù)據(jù)并對企業(yè)提交數(shù)據(jù)進行自動核驗，降低信息核驗的人工成本，減少手工流程，避免操作風險，提升整體股權(quán)交易效率。n隱私計算過程安全可靠將隱私計算和區(qū)塊鏈相結(jié)合，既能在數(shù)據(jù)共享過程中有效保護敏感數(shù)據(jù)，實現(xiàn)數(shù)據(jù)的安全流通，還能為數(shù)據(jù)的真實性、數(shù)據(jù)確權(quán)等合規(guī)問題提供可行解決方案，實現(xiàn)隱私計算全流程可記錄、可驗證、可追溯、可審計。n保障企業(yè)經(jīng)營數(shù)據(jù)安全可信利用區(qū)塊鏈技術(shù)為中小企業(yè)的經(jīng)營數(shù)據(jù)進行背書，為當前股權(quán)交易市場數(shù)據(jù)披露、資金托管等方面的信息不對稱問題提供助力，對于加強市場穩(wěn)定性建設(shè)、改進市場監(jiān)督管理機制具有重要意義。否：人工復審預判段：是否可以掛牌？企業(yè)填報數(shù)據(jù)存證企業(yè)信息、展示信息是否完善上審核結(jié)果數(shù)據(jù)存證補充資料數(shù)據(jù)存證顯示審批結(jié)果：是企業(yè)填寫申報信息企業(yè)補充資材料是2024全球隱私計算報告典型案例：金智塔科技-基于隱私計算的省市縣三級2024全球隱私計算報告針對公共數(shù)據(jù)安全共享難題針對公共數(shù)據(jù)安全共享難題，金智塔科技聯(lián)合浙浙江省稅務(wù)局、浙江省統(tǒng)計局、國網(wǎng)浙江電力、浙在“中小企業(yè)經(jīng)營現(xiàn)狀分析”場景在“中小企業(yè)經(jīng)營現(xiàn)狀分析”場景，有效解決浙江省金監(jiān)局和國網(wǎng)浙江電力間跨地域數(shù)據(jù)的安全融合計算，精準識別20多萬企業(yè)的生產(chǎn)與經(jīng)營現(xiàn)狀，從而提供全方位、實時的評分服務(wù)，有效化解企業(yè)融資難、融資貴的難題，為中小微企業(yè)的壯大發(fā)展提供有力支持，促進社會經(jīng)濟的高質(zhì)量發(fā)展；在“?；奋囕v違規(guī)?？啃袨榉治觥眻鼍?，合規(guī)融合浙江省稅務(wù)局和浙江省交通廳數(shù)據(jù)，每日計算量8000萬，篩出車輛可疑停靠點，為治理油品的偷稅漏稅提供高價值線索；在“產(chǎn)業(yè)數(shù)據(jù)研究”場景，安全合規(guī)融合浙江省統(tǒng)計局、浙江省經(jīng)信廳及社會數(shù)據(jù)，助力深入分析產(chǎn)業(yè)發(fā)展現(xiàn)狀，為制定精準產(chǎn)業(yè)幫扶政策提供有力的數(shù)據(jù)支撐。具2024全球隱私計算報告2024全球隱私計算報告），AAIF聯(lián)盟打擊金融黑灰產(chǎn)成效至2024年，AIF聯(lián)盟已吸引包括銀行、互金、保險、小貸在內(nèi)的129家機構(gòu)加入，共同推進了60起非法代理維權(quán)案件的受理，其中14起為刑事案件，促使警方對172名金融黑產(chǎn)人員采取了強制措施。試運行期間，22家成員機構(gòu)導入了87580條黑灰產(chǎn)數(shù)據(jù)，發(fā)起了145次掃描任務(wù)，挖掘出1150條黑灰產(chǎn)線索。門限求交助力金融隱私保護馬上消費提出了一種基于離散對數(shù)問題的門限隱私集合求交算法，使參與方在無須第三方信任節(jié)點的情況下，安全計算滿足閾值的最大交集，抵御攻擊模型，保護數(shù)據(jù)隱私，確保中間數(shù)據(jù)安全，且計算效率高，不受參與方數(shù)量影響，可用于識別跨機構(gòu)的惡意行為者，幫助金融機構(gòu)協(xié)作打擊金融黑灰產(chǎn)。愛馬平臺打擊金融黑灰產(chǎn)AIF聯(lián)盟的“愛馬平臺”利用隱私計算技術(shù)，通過求交方式挖掘黑灰產(chǎn)線索。在打擊非法代理維權(quán)場景中，以用戶手機號等為例，在多個參與方中找出滿足特定條件的交集數(shù)據(jù)，即黑灰產(chǎn)線索，同時保證各參與方非交集部分數(shù)據(jù)不被泄露，并建立多方黑產(chǎn)線索碰撞機制，全面防范和協(xié)助警方打擊金融黑灰產(chǎn)。AIFAIF系統(tǒng)平臺運營中心運營平臺產(chǎn)攻擊的聯(lián)合打擊黑名單黑名單黑名單黑名單黑名單黑名單黑名單黑名單2024全球隱私計算報告2024全球隱私計算報告DRGDRG支付模式的優(yōu)勢一是能夠減少對藥品、耗材、大型建設(shè)設(shè)備的不合理使用，減少過度醫(yī)療，有效降低患者醫(yī)療成本、減輕患者經(jīng)濟負擔；二是提高醫(yī)療機構(gòu)醫(yī)療資源利用率，有利于促進醫(yī)療服務(wù)公開透明，有效規(guī)范醫(yī)療機構(gòu)的醫(yī)療服務(wù)行為，有效提高醫(yī)療服務(wù)質(zhì)量；三是醫(yī)?；鸩怀?，助力醫(yī)?？刭M?；陔[私保護計算技術(shù)實現(xiàn)的聯(lián)合DRG建模方式，在患者方面，加強了數(shù)據(jù)授權(quán)和流轉(zhuǎn)的立法保護和實際落地，保護了患者醫(yī)療數(shù)據(jù)和個人信息的安全性；在醫(yī)療機構(gòu)方面，提供了更安全的數(shù)據(jù)不出本地的共享方式，保障機構(gòu)數(shù)據(jù)利益的同時充分釋放了數(shù)據(jù)價值。②②②②隱私計算平臺服務(wù)管理模型開發(fā)服務(wù)監(jiān)控全局模型②②②②隱私計算平臺服務(wù)管理模型開發(fā)服務(wù)監(jiān)控全局模型本地模型園園本地模型園園本地模型本地模型本地模型本地模型本地模型本地模型2024全球隱私計算報告2024全球隱私計算報告2024全球隱私計算報告☆跨域數(shù)據(jù)共享的重要性??CambridgeAnalytica事件（?Google與Ascension醫(yī)療）：?WhatsApp數(shù)據(jù)共享爭議（2021年What?Anthropic數(shù)據(jù)泄露（2024年一名2024全球隱私計算報告2024全球隱私計算報告2.模型中存儲的數(shù)據(jù)，具備一定的可逆性，可以通過AI系統(tǒng)在其整個生命周期中，從數(shù)據(jù)收集到模型訓練和推理階段，容易受到各種安全威脅。敵手可以通過誘導生成錯誤、具有后門的模型，來向用戶提供誤AI模型提供的服務(wù)，尤其是金融、醫(yī)療等領(lǐng)域，用戶數(shù)據(jù)具備高隱私性。直接2024全球隱私計算報告2024全球隱私計算報告PPML應(yīng)用英文文獻按年發(fā)表數(shù)量20162017201醫(yī)療醫(yī)療金融法律與合規(guī)公共管理區(qū)塊鏈與數(shù)字貨幣27%2%7%7%2%供應(yīng)鏈追蹤、去中心交易、身份驗證等多種應(yīng)用場景。物聯(lián)網(wǎng)與物聯(lián)網(wǎng)與智能設(shè)備社交網(wǎng)絡(luò)電商廣告29%7%2024全球隱私計算報告2024全球隱私計算報告近兩年大語言模型下的近兩年大語言模型下的PPML研究數(shù)量遞增，然而CNN仍然是PPML研究的主要領(lǐng)域。統(tǒng)計表明，深度學習方法（如CNN、RNN）下的PPML占主要，傳統(tǒng)機器學習方法（如決策樹、邏輯回歸）只占所有PPML類型分布傳統(tǒng)機器學習,20%LLM,深度學習方法,80%2023-2024PPML技術(shù)及應(yīng)用模型類型研究分布GNN,11%RNN,8%Others,32%PPML模型分布CNN,32%1252016201720182PPML研究基礎(chǔ)性工作增長數(shù)量（不包括傳統(tǒng)機器學習方法）02024全球隱私計算報告2024全球隱私計算報告差分隱私&安全多方計算差分隱私&安全多方計算在歐盟《通用數(shù)據(jù)保