AI時代深度偽造和合成媒體的安全威脅與對策（2024版）

目錄第一章AI時代深度偽造和合成媒體安全概念界定及背景分析 11深度偽造和合成媒體概念界定 11深度偽造概念界定與特征分析 11合成媒體概念界定與特征分析 11深度偽造和合成媒體安全發(fā)展階段 12深度偽造和合成媒體技術應用場景 13深度偽造和合成媒體安全影響和痛點分析 14深度偽造和合成媒體安全的政策、規(guī)范與標準 17國外深度偽造和合成媒體安全法律分析 17國內深度偽造和合成媒體安全政策、規(guī)范和標準分析 19第二章AI時代深度偽造和合成媒體安全技術、威脅及對策研究 22深度偽造和合成媒體安全技術原理分析 22計算機圖形學（CG）的原理與應用 22自編碼器（AE）的原理與應用 22人工神經網絡(ANN)的原理與應用 23生成對抗網絡(GAN)的原理與應用 24擴散模型（DDPM）的原理與應用 25深度偽造和合成媒體技術應用分析 25視頻領域：換臉、動作轉移、表情操縱等 25圖像領域：人臉生成、屬性編輯、風格轉換等 26語音領域：克隆、轉換、合成等 27深度偽造和合成媒體安全威脅分析 28對個人層面的安全威脅 28對社會層面的安全威脅 29對國家層面的安全威脅 29深度偽造和合成媒體安全檢測類技術分析 30數字水印溯源技術研究 31基于區(qū)塊鏈的內容認證機制 31可信硬件支撐環(huán)境的構建 32深度偽造和合成媒體安全檢測類技術分析 33聚焦深度偽造內容本身的分析檢測方法 33聚焦深度學習的檢測方法 34基于多模態(tài)融合的檢測方法 35第三章AI深度偽造和合成媒體安全的市場現狀分析 37深度偽造和合成媒體安全的市場表現分析 37深度偽造和合成媒體市場規(guī)模分析 37深度偽造和合成媒體公開中標信息分析 37深度偽造和合成媒體廠商投融資情況分析 38深度偽造和合成媒體安全生態(tài)圖譜分析 39深度偽造和合成媒體安全市場成熟度分析 41深度偽造和合成媒體安全消費者敏感度分析 42深度偽造和合成媒體安全消費者認知度分析 42深度偽造和合成媒體安全消費者使用度分析 43深度偽造和合成媒體安全消費者需求度分析 45深度偽造和合成媒體安全消費者敏感度分析 46深度偽造和合成媒體安全消費者保護度分析 47第四章AI深度偽造和合成媒體安全市場技術落地分析 49深度偽造和合成媒體安全能力建設分析 49國內深度偽造和合成媒體安全研究側能力分析 50國內深度偽造和合成媒體安全服務側能力分析 52深度偽造和合成媒體安全防控體系分析 54深度偽造和合成媒體安全防控體系—治理層面 54深度偽造和合成媒體安全防控體系—管理層面 55深度偽造和合成媒體安全防控體系—技術層面 56深度偽造和合成媒體安全技術落地難點分析 59第五章國外深度偽造和合成媒體安全工具/平臺介紹（按首字母排序） 62Deepware 62Illuminarty 63Sentinel 64WeVerify 65第六章國內深度偽造和合成媒體安全廠商典型案例（按簡稱字母排序） 66頂象典型案例分析 66東方通典型案例分析 69國投智能典型案例分析 72瑞萊智慧典型案例分析 74網易易盾典型案例分析 76中科睿鑒典型案例分析 79第七章AI深度偽造和合成媒體安全市場未來五大趨勢分析 82深度偽造和合成媒體安全潛在市場規(guī)模巨大 82未來三年，企業(yè)和大眾將會深刻感受到深度偽造和合成媒體安全帶來的挑戰(zhàn) 83技術創(chuàng)新和應用創(chuàng)新雙輪驅動，推動深度偽造和合成媒體安全行業(yè)快速發(fā)展 83國內深度偽造相關技術短期領先，長期發(fā)展需全生態(tài)協同推進 84“融合”成深度偽造和合成媒體安全關鍵詞 85第八章附錄 86本報告主要參考文獻 86國內深度偽造相關專利信息匯總表 88引言本次《AIAIAI「無平不陂，無往不復。堅貞無咎，勿恤其孚，于食有?！埂吨芤住ぬ犯鶕ㄎ镛q證法，事物是不斷發(fā)展變化的，可是人們往往更多關注到突變的時刻，容易忽略事物變化的AI·泰》泰卦，原文是“無平不陂，無往不復。堅貞無咎，勿恤其孚，什么好后悔的，可能有挫折，也可能會得到好的回報。這個卦不是否極泰來的意思，但可以理解為事物前途是光明的，發(fā)展的道路是曲折的，需要看準方向，堅定不移地往前走。「技術可以在很大程度上左右人類這一物種的生物屬性，但反過來人類也可以賦予技術以靈魂」—《技術與文明》人類與技術的互動是一個動態(tài)的過程，技術的發(fā)展可以推動人類社會的進步，而人類的智慧和道德判斷則可以引導技術向有益于人類的方向進化。這種相互作用確保了技術不僅僅是推動力，也是人類文化和精神賦予它服務于人類福祉的使命！報告關鍵發(fā)現法明確階段。每個階段具有持續(xù)性特點，并且會有重疊，這體現了深度偽造和合成媒體安全治理的復雜性和長期性。其在多個領域的巨大潛力和價值不容忽視，如個人娛樂、歷史教育、親人緬懷、醫(yī)療旅游等；從反面來看，相關政策制定和理論研究等方面也在積極推進中。例如，《網絡音視頻信息服務管理規(guī)定》、《互聯網信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》、《生成式人工智能服務安全基本要求》等的出臺，推進了我國在深度偽造和合成媒體監(jiān)管側法規(guī)依據的不斷完善。（信任類和被動式防御（檢測類）。檢測類是當前應對深度偽造負面對抗的主要形式。具體的檢測技術有多種，目前基于多模態(tài)的檢測方法是業(yè)內公認的有效手段。安全牛公開調研收集的深度偽造和合成媒體安全市場相關信息顯示，20231.192024243%4.08傳媒集團、銀行和運營商是深度偽造和合成媒體安全市場的主要采購客戶。從投融資信息角度來看，2020年是資方看好深度偽造和合成媒體創(chuàng)新廠商的主要時機，在這一年瑞萊智慧、深信科創(chuàng)獲得了天使輪投資，中關村科金獲得了股權投資。2024深度偽造技術領域的重度參與者可以按照研究側和服務側兩部分進行劃分。研究側包括擁有深度偽造專利認證的金融機構、科研院所和高校；服務側則涵蓋了提供深度偽造和合成媒體安全服務的企業(yè)，可分為以網絡和數據安全為主營業(yè)務的企業(yè)，以及以人工智能為核心的企業(yè)和滿足自我檢測需求的互聯網企業(yè)。目前，這三類服務企業(yè)均處于初級階段。在整體能力上來看，存在各自的優(yōu)勢及問題，融合發(fā)展有望是未來的解決之道。安全牛在本研究項目中發(fā)起了《大眾對深度偽造和合成媒體技術安全認知、態(tài)度及影響調研問卷》，從認知度、使用度、需求度、敏感度和保護度五方面進行了消費者分析。主要結論是：大眾普遍對相關概念及其典型事件（如三只羊錄音事件）有所了解，但在識別利用該技術制造的虛假內容方面存在明顯困難；大眾普遍對此技術存有好奇心，但同時也對此技術可能引發(fā)的誠信問題抱有普遍的擔憂；大眾對于安全需求保障的意愿較為強烈，特別是對監(jiān)管側和技術提供商寄予厚望；受訪者普遍對合成媒體有較高的安全意識，大眾也有意愿了解相關防范知識，并期待深度偽造檢測工具的進一步落地。2021（202410）的深度偽造和合成媒體專利信息得出以下57%，2022年；專利的法律狀態(tài)主要集中在等待（實審提案、年登印費），占比達到71%，真正獲得專利權有效的22%。檢測類型是深度偽造發(fā)明專利的主要類型，占比達到77%，未來深度偽造技術在防護技術和系統(tǒng)實現方面還有較大發(fā)展空間。深度偽造和合成媒體安全的監(jiān)管者需要變革。為應對深度偽造和合成媒體技術帶來的挑戰(zhàn)和問題，監(jiān)管機構面臨的任務愈發(fā)復雜且迫在眉睫。因此，監(jiān)管機構需要采取全面、多維的策略，以確保能夠有效識別、監(jiān)管并防范深度偽造內容的不當使用。安全牛建議：監(jiān)管機構需要探索不同的開放制度、平臺和模型，以精準管控深度偽造和合成媒體的具體方向和落地細節(jié)。一方面，內容方需要順應時代發(fā)展，滿足大眾日益提高的精神文化需要；另一方面，內容方需要建立專門的內容審查團隊，負責監(jiān)控上傳的內容，快速響應并處理深度偽造內容的舉報。安全牛建議：內容方需要滿足消費者的多重需求，同時提前布局、審查加固和建立舉報制度。深度偽造和合成媒體技術快速發(fā)展的背景下，消費者需要變革。消費者需要“擦亮雙眼”，在深度偽造和合成媒體內容高速發(fā)展的當下，眼見不一定為實，在肉眼分不清現實和虛擬的時候，借助科技的力量已是AI持懷疑態(tài)度，然后再去證實。安全牛認為，雖然深度偽造和合成媒體安全應用的行業(yè)與場景各不相同，但均可按照制定管理計劃－管理風險評估－管理框架搭建－構建安全模型－深度內容檢測－事件響應計劃－事件改進計劃－持續(xù)更新教育的方式，建立健全有效防御體系。安全?？偨Y深度偽造和合成媒體有五大發(fā)展趨勢：1）B（主要是監(jiān)管方、企業(yè)和機構）C（消費者）302）未來三年，企業(yè)和大眾將會深刻感受到深度偽造和合成媒體安全帶來的挑戰(zhàn)；3）技術創(chuàng)新和應用創(chuàng)新雙輪驅動，將推動深度偽造和合成媒體安全行業(yè)快速發(fā)展；4）國內深度偽造相關安全技術應用會短期領先，但長期發(fā)展需全生態(tài)協同推進；5）“融合”是深度偽造和合成媒體安全關鍵詞。第一章AI時代深度偽造和合成媒體安全概念界定及背景分析深度偽造和合成媒體概念界定(Deepae)SynthticMedi)深度偽造概念界定與特征分析(Deepfake)取自英文“Deeplearning”(Fake”(制造出以假亂真的內容。學術界對深度偽造有著多種看法，清華大學有學者以“深度偽造”技術的典型化事實為例進行分析，界定其為“顛覆性技術異化”；也有國內研究人員認為，深度偽造可以算作“宏進化”和“微進化”的結合，并提出其進化的漸進性。安全牛認為，深度偽造技術具有幾個典型特性，簡單總結為三“高”：1）可高效快捷批量生成；3）合成媒體概念界定與特征分析合成媒體（SyntheticMedia）是利用人工智能算法生成或操控的數字內容，代表了虛擬內容創(chuàng)作中人工智能技術的前沿成果。合成媒體具有高度的真實感和沉浸感，使得內容與現實世界的媒體難以區(qū)分，其典型應用如新聞播報員的數字分身、虛擬偶像或者游戲化身等。從廣義來看，深度偽造也是合成媒體的一種，但合成媒體的概念外延更寬，它不局限于視聽內容的篡改，更強調利用算法從無到有地“創(chuàng)造”數字內容。安全牛認為，合成媒體具有上述深度偽造的特點，但其在應用場景方面與深度偽造略有不同。深度偽造主要用于生成詐騙影像、偽造色情視頻、散布政治謠言等負面性的應用場景；而合成媒體背后動機更加復雜，除上述消極場景外，通常也大量廣泛應用于虛擬主播、數字人等正向應用領域。隨著技術門檻的不斷降低，生成成本大幅下降，合成媒體帶來的內容真?zhèn)螞_擊也隨之加大。深度偽造和合成媒體安全發(fā)展階段其實，深度偽造和合成媒體背后的針對圖像、視頻和音頻的加工操作早就存在，甚至非正常修改或非法替PhoshopPFinalut、剪映等工具早已實現了對圖像的實質性修改。但深度偽造和合成媒體技術在人工神經網絡的快速發(fā)展后迎來了大跳躍，尤其是生成對抗generativeadversarialnetwork，GAN)深度偽造概念首次出現在美國，201712DeepFakes”的用戶在美國社交媒體平臺發(fā)布換2018年1月，一詞由此首次正式被提出。此后，該技術逐漸陷入惡意濫用的泥沼。像偽造色情視頻、政治人物演講、企業(yè)家虛假新聞等層出不窮。2019T）發(fā)展，以識別被篡改的圖像和視頻。aebook2019Deepae3500082.56%。我國深度偽造和合成媒體的應用雖比國外晚了一段時間，但是不論技術產品還是監(jiān)管力度都在快速發(fā)展。安全牛認為，我國深度偽造和合成媒體安全發(fā)展可分為四個階段：圖1.21中國深度偽造和合成媒體安全發(fā)展階段圖大眾認知階段：20192AI眾的廣泛關注。監(jiān)管介入階段：20199ZAOApp因涉嫌侵犯隱私被約談2021顯示我國監(jiān)管機構的持續(xù)關注和迅速響應。2020X-Ray20211立法明確階段：20244AIAI20246AI換臉”侵權案，認定使用他人視頻“換臉”后制作模板再提供“換臉”服務的網絡服務提供者侵害了他人個人信息權益。值得一提的是，我國深度偽造和合成媒體安全發(fā)展的四個階段具有持續(xù)性特點，每個階段都可能持續(xù)較長時間，并且可能會有重疊。這也體現了深度偽造和合成媒體安全治理的復雜性和長期性。深度偽造和合成媒體技術應用場景深度偽造與合成媒體技術雖然在某些應用場景中帶來了負面影響，但其在多個領域的巨大潛力和價值不容和DeepFaceLab使得用戶能夠輕松地將自己的臉替換到視頻中，為社交媒體和個人分享帶來新的樂趣；在教育領域也受益于這些技術，通過創(chuàng)造更加生動的教學材料，如歷史ableDifusionMijourney生成逼真的背景和特效，節(jié)省了傳統(tǒng)拍攝的成本和時間；醫(yī)療行業(yè)通過合成媒體技術模擬手術過程，提高了手術訓練的真實性；藝術領域中，合成技術激發(fā)了藝術家的創(chuàng)造力，如通過圖像融合技術創(chuàng)作數字藝術作品；新Heygen圖1.31中國深度偽造和合成媒體技術應用場景展示圖圖1.31中國深度偽造和合成媒體技術應用場景展示圖安全牛認為，當前，眾多應用平臺正在降低深度偽造和合成媒體技術的門檻，使得普通用戶能夠輕松地利用這些軟件實現具體的應用。無論是國際知名的平臺如OpenAI、Heygen、Midjourney、Runway，還是國內的訊飛智作、剪映等，都在積極推動合成媒體技術的發(fā)展和應用。這些平臺提供了一系列從文本到視頻的全面ableDiffusion、aSap個人用戶和開發(fā)者提供了強大的工具，進一步促進了合成媒體技術的普及和創(chuàng)新。隨著技術的持續(xù)進步，相信合成媒體技術將在更多領域扮演關鍵角色，將對社會產生深遠影響。深度偽造和合成媒體安全影響和痛點分析深度偽造和合成媒體技術帶來的影響是深遠和復雜的，安全?？偨Y這些影響涉及虛假宣傳、名譽損壞、財產損失、道德倫理和安全威脅等多個角度。以下結合具體事件展開詳細分析：表1.412017-2024國內外深度偽造和合成媒體典型事件匯總表事件時間/名稱事件名稱事件內容2017年美國蓋爾·加朵遭色情換臉Reddit上的“deepfakes”用戶利用深度偽造技術，將《祖奇女俠》主演蓋爾·加朵的面容合成到了一部成人影片中，引發(fā)桃色風波2018年印度印度記者遭色情報復視頻困擾RanaAyyub者2018年美國奧巴馬罵特朗普假視頻一段偽造的奧巴馬視頻在推特上播放超200萬次，點贊超5這是美國喜劇演員喬丹，皮爾聲音，旨在展示深度偽造技術2018年美國特朗普多次被深度偽造“碰瓷”事件一利用“深度偽造”技術篡改，做出“特朗普宣告比利時政府也應退出”的假視頻，引起比利時民眾的公憤2019年美國特朗普多次被深度偽造“碰瓷”事件二?？怂蛊煜挛餮艌D電視臺播出了一段被深度偽造的特朗普演講視頻，視頻中特朗普臉色異常紅潤，頻繁做出夸張動作2019年美國扎克伯格被偽造假視頻發(fā)布演講一段關于FacebookCE0馬克·扎克伯格的人工智能深度合成(deepfake)“換臉”視頻被上傳到Instagram上，視頻中他討論大數據，但他否認說過這些話2019年中國楊冪遭換臉風波網友用楊冪臉替換《射雕英雄傳》里黃蓉扮演者朱茵臉，發(fā)布的視頻引發(fā)網絡熱議2020年美國愛因斯坦“穿越”視頻合成的愛因斯坦在視頻中鼓勵大家團結一致共同抗疫2022年中國古風漢服網紅魏某“AI換臉”AppAIAI20231平臺首播2023年英國《深度偽造鄰居之戰(zhàn)》播出全球首部運用深度偽造技術合成名人面孔的節(jié)目《深度偽造鄰居之戰(zhàn)》于2023年1月在英國ITVX平臺首播2023年美國喬·羅根被“宣傳”一段由人工智能制作的假喬·(JoeRogan)保健品的深度偽造視頻，在某個社交媒體平臺迅速上傳2024年中國雷軍罵人事件罵人”視頻引發(fā)網絡熱議2024年中國三只羊錄音事件9AI2024年韓國韓國“N2.0發(fā)韓國“N2.0222024年中國香港深度偽造詐騙案損失2億港幣香港一家跨國公司員工被邀請進入用深度偽造制作的“高管視頻會議”，被騙轉賬2億港幣，成為香港歷史上損失慘重的“變臉”案例數據來源：安全牛根據公開信息自主整理，按時間順序排列，自主繪制虛假宣傳－秩序擾亂與信任風險：深度偽造技術可以被用于制作虛假視頻和音頻，這些內容可以被用隨后被比利時某政黨利用“深度偽造”技術篡改，做出“特朗普宣告比利時政府也應退出”的假視頻，引起比利時民眾的公憤。再如，一段由人工智能制作的假喬·羅根（JoeRogan，美國知名博客）宣傳男性保健品的深度偽造視頻，在某個社交媒體平臺上迅速傳播，涉及虛假宣傳。名譽損壞－政策挑戰(zhàn)與權利侵犯：深度偽造技術制作的色情換臉視頻侵犯了公民的名譽權和肖像權，對被偽造者造成嚴重的心理和社會影響。這些視頻的傳播可能導致受害者產生焦慮、抑郁等心理障礙，甚至影RanaAyyub財產損失－經濟風險與經濟犯罪：深度偽造技術被用于詐騙和勒索，導致個人和企業(yè)遭受經濟損失。20242道德倫理－倫理風險與法律風險：深度偽造技術的應用引發(fā)了倫理問題，如侵犯已故明星與名人的主體價值完整性，以及對逝者的“賽博重生”可能違反了公民應有的被遺忘權原則等。如疫情期間，合成的愛因斯坦在視頻中鼓勵大家團結一致共同抗疫引發(fā)大眾熱議。此外，深度偽造技術還可能導致道德行為失序，如偽造視頻可能引發(fā)對個體身份的操縱和數字暴力。深度偽造技術可能被用于制作虛假的戰(zhàn)爭命令或解鎖重要設施的人臉識別系統(tǒng)，從而對軍事安全構成威脅。此外，深度偽造技術還可能被用于網絡釣魚攻擊、交易欺詐等，對企業(yè)安全構成威脅。深度偽造技術可能被用于國家間的政治抹黑、軍事欺騙，增加國家間的危機和沖突，尤其是增加擁有核武器國家之間爆發(fā)核戰(zhàn)爭的風險。例如，在敏感關系或戰(zhàn)爭國家間流傳的深度偽造視頻可能破壞國際的戰(zhàn)略互信，助長沖突雙方的仇恨。綜上所述，深度偽造技術的影響深遠且復雜，需要通過技術研發(fā)、立法管制、加強宣傳教育以及推進國際安全合作治理等手段來應對其被濫用而帶來的安全挑戰(zhàn)。深度偽造和合成媒體安全的政策、規(guī)范與標準本節(jié)將從國外和國內兩個方面進行深度偽造和合成媒體安全相關法律、政策和規(guī)范的分析與描述。國外深度偽造和合成媒體安全法律分析安全牛認為，從整體來看，美國是最早對深度偽造技術進行立法的國家，擁有最多的針對性立法，并在聯邦及州政府層面采取了廣泛的行動。201812《惡意深度偽造禁令法案》，旨在打擊制作和傳播深度偽造內容的行為，可對相關個人和社交媒體平臺可處以罰款和監(jiān)禁。若偽造內容引發(fā)嚴重后果，1020196《深度偽造責任法案》，要求制作者在《2020尼爾森和馬修·楊·波拉德情報授權法》參議院提出《深度偽造報告法案》，分管科學和技術事務的副部長負責。在州級層面，得克薩斯州通過法案，將使用深度偽造技術干擾選舉的行為定為刑事犯罪。弗吉尼亞州將制作和傳播深度偽造視頻（例如色情暴力等），違法者可面臨監(jiān)禁和罰款。加州州長簽署法案，將發(fā)布對政客產生負面影響的虛假音視頻定義為犯罪。表1.51國外深度偽造和合成媒體安全的法律匯總表國內/國外時間法律名稱立法機構法律內容國外2018《惡意偽造禁令法案》美國國會對制作深度偽造引發(fā)犯罪和侵權的個人、明知內容的性質仍進行分發(fā)的媒體平臺處以罰款和監(jiān)禁國外2018《反虛假信息行為準則》歐盟委員會認識到虛假信息的傳播存在眾多側面且受到生態(tài)系統(tǒng)中各類不同部門多與所有利益相關者在消除虛假信息的傳播方面均應當發(fā)揮作用國外2019《非同意色情法》吉尼亞州將利用“深度偽造”技術合成他人色情視頻并子以傳播的行為犯罪化國外2019《關于偽造欺詐視頻影響選舉結果的刑事犯罪法案》克薩斯州將利用“深度偽造”技術合成候選人虛假視頻并予以傳播的行為犯罪化國外2019《深度偽造責任法案》美國國會任何創(chuàng)建深度偽造視頻媒體文件的人，必須用“不可刪除的數字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬于犯罪行頭國外2020《2020·保拉德情報授權法》美國眾議院針對深度偽造對服役人員及其家人構成的威脅進行情報評估，包括評信該技術的成熟度以及如何使用該技術進行信息作戰(zhàn)國外2020《識別生成對抗性網絡的輸出法案》美國國家標準與技術研究院旨在支持開發(fā)必要的測量和標準的研GANs合成或操縱內容的技術的功能和輸出國外2020《2020財年國防授權法案》美國眾議院要求國家情報局負責人就潛在的影響國家安全的深度偽造技術、以及為外國用以實施傳播虛假信息等惡意行為的深度偽造技術的潛在與實際影響向國會情報委員會進行匯報國外2021《人工智能法案》歐盟將深度偽造列為“高風險”人工智能技安全的威脅，《人工智能法案》于2021，202481日正式生效。數據來源：安全牛根據公開信息自主整理，自主繪制。注意：本表僅羅列與深度偽造最為相關的部分國外法律。其他國家(或組織）在應對深度偽造技術方面的舉措。歐盟主要通過個人信息保護和虛假信息治理的法律法規(guī)來進行限制。20189且受到生態(tài)系統(tǒng)中各類不同部門參與者的促進，并對這些參與者造成影響，所有利益相關者在消除虛假信息的傳播方面均應發(fā)揮作用。其他國家雖然沒有專門針對深度偽造技術的直接立法，但是通過現有的公民信息保護、虛假信息治理、社交媒體平臺管控和網絡審查等法律法規(guī)，對涉及造假技術的犯罪案件進行審理和規(guī)制。例如，新加坡通過《廣播法》和《互聯網操作規(guī)則》等法規(guī)，要求電信服務供應商承擔屏蔽、封堵特定網站和信息言論的義務，以及時發(fā)現并依法查處虛假信息；英國則通過《數據保護法》保護個人臉部圖像等信息，適用于可能被用于制作深度偽造內容的數據；韓國通過《電子傳播商務法》和《個人信息保護法》等法規(guī)，對網絡輿情內容進行審查，并保護個人數據不被未經同意的情況下收集與使用；俄羅斯則通過一系列法規(guī)，要求網站迅速清理非法信息，//該技術可能帶來的法律問題和犯罪行為。國內深度偽造和合成媒體安全政策、規(guī)范和標準分析隨著深度偽造技術快速發(fā)展，我國在政策制定和理論研究等方面也積極推進。國內針對深度偽造的法律規(guī)惡意，未經本人同意的深度偽造行為仍可能侵害肖像權。2019（以下簡稱網信辦）、國家廣播電視總局、文化和旅游部聯合發(fā)布《網絡音視頻信息服務管理規(guī)定》，明確提出網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識。同時，《網絡信息內容生態(tài)治理規(guī)定》、《數據安全管理辦法》和《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規(guī)定》，明確提出網絡信息內容服務使用者和生產者、平臺不得開展網絡暴力、人肉搜索、深度偽造、流評論等信息，應以明顯方式標明“合成”字樣；具有輿論屬性或社會動員能力的互聯網信息服務提供者拒不按并依照各自職責對該互聯網信息服務實施監(jiān)督檢查。2020《中華人民共和國民法典》對于保護公民肖像權所作出的規(guī)定關注到了“深度偽造”這一技術前沿問題，但采用的是“利用信息技術手段偽造”的表述。2021（AI2022《互聯網信息服務深度合成管復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動?！痘ヂ摼W信息服務深度合成管理規(guī)定》還對深度偽造提出較有針對性的規(guī)制。如因深度偽造涉及人臉等生物識別信息的顯2132023聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識。2024員會發(fā)布《生成式人工智能服務安全基本要求》明確指出要對生成式人工智能的生成內容進行標識，并對利用生成式人工智能服務進行的違法行為要依法依約采取有關處置措施。表1.52國內深度偽造和合成媒體安全的政策、規(guī)范與標準匯總表國內/國外時間政策/規(guī)范名稱發(fā)布機構政策內容國內2019《網絡音視頻信息服務管理規(guī)定》網信辦、國家廣播電視文化和旅游部網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用基于深度學習、虛擬現實等的新技術新應用制作、發(fā)布、傳播虛假新聞信息國內2019《網絡信息內容生態(tài)治理規(guī)定》網信辦明確提出網絡信息內容服務使用者和生產者、平臺不得開展網絡暴力、人肉搜索、深度偽造、流量造假、操縱賬號等違法活動國內2019《數據安全管理辦法》網信辦網絡運營者利用大數據、人工智能等技術應以明顯方式標明“合成”字樣;不得以謀取利益或損害他人利益為目的自動合成信息國內2019《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規(guī)定》網信辦網信部門和公安機關發(fā)現具有輿論屬性或社會動員能力的互聯網信息朋務提供者拒不按照本規(guī)定開展安全評估的，應當通過全國互聯網安全管理服務平臺向公眾提示該互聯網信息服務存在安全風險，并依照各自責對該互聯網信息服務實施監(jiān)督檢查國內2020《中華人民共和國民法典》全國人大對于保護公民肖像權所作出的規(guī)定關注到“深度偽造用信息技術手段偽造”的表述國內2021《互聯網信息服務算法推薦管理規(guī)定》網信辦、工信部、公安部、市場監(jiān)督管理總局將生成合成類算法列入監(jiān)管的五大類應用生成合成類、個性化推送類、排序推薦AI行標識國內2022《互聯網信息服務深度合成管理規(guī)定》網信辦、工信部、公安部、市場監(jiān)督管理總局采用的是“深度合成”的概念，明確任何組織和個人不得利用深度合成服務制作、復不得利用深度合成服務從事危害國家安全擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動國內2023《生成式人工智能服務管理暫行辦法》網信辦明確生成式人工智能服務提供者應當按照《互聯網信息服務深度合成管理規(guī)定》對圖片、祝頻等生成內容進行標識國內2024《生成式人工智能服務安全基本要求》全國網絡安全標準化技術委員會明確指出要對生成式人工智能的生成內容進行標識，并對利用生成式人工智能服務進行的違法行為要依法依約采取有關處置措施數據來源：安全牛根據公開信息自主整理，按時間順序排列，自主繪制整體來看，這些政策的制定與執(zhí)行彰顯了我國在深度偽造及合成媒體安全管理方面的堅定立場，其目標是維護國家安全、社會公共利益，以及保障公民、法人和其他組織的合法權利。此外，這些措施也為深度合成技術的有序發(fā)展和合規(guī)使用提供了支持。第二章 AI時代深度偽造和合成媒體安全技術、威脅及對策研究深度偽造和合成媒體安全技術原理分析安全牛認為，深度偽造和合成媒體的關鍵技術主要有以下四類：計算機圖形學（ComputerGraphics，G（uoEnoderAE(ArtificialNeualNtorkANN)（GenetieAdversarialNetwork，GAN）和擴散模型（DenoisingDiffusionProbabilisticModels，DDPM）。本章節(jié)將分別就這些關鍵技術的基本原理進行重點剖析。計算機圖形學的原理與應用計算機圖形學（ComputerGraphics，簡稱CG）技術在過去二十年中不斷進步，已成為實現高真實度人臉偽造的關鍵技術。在人臉領域的應用，CG技術主要依賴面部檢測、追蹤、建模和紋理映射等核心技術。得益于其高度成熟和人工調整手段的結合，CG技術能夠創(chuàng)造出極其逼真的人臉效果，曾一度被認為是最先進的人臉偽造技術之一。然而，為了實現這種高度逼真的效果，需要投入大量的硬件、軟件資源以及專業(yè)團隊，導致成本極高。因此，CG技術在人臉合成和替換方面的應用主要局限于成本較高的商業(yè)領域，如電影和游戲產業(yè)。技術通過獲取人臉關鍵點，3DRGB-D3D3D3D3D自編碼器（AE）的原理與應用自編碼器(AutoEncoder，AE)技術在深度偽造領域扮演了重要的角色。作為一種無監(jiān)督學習模型，自編碼器通過編碼器將輸入數據壓縮成低維表示，再通過解碼器恢復成原始數據。在深度偽造技術中，自編碼器被用來學習人臉特征，并生成逼真的人臉圖像。例如，深度偽造技術利用自編碼器學習原始和目標人臉特征，通過交換解碼器實現人臉替換，降低了技術門檻，僅需少量照片即可完成換臉。通過引入額外機制改善生成模型性能。這些技術的發(fā)展使得深度偽造技術只需少量肖像即可完成換臉，推動了自動編碼器、生成對抗網絡等技術在深度偽造中的應用。自編碼器還可識別數據中的異常模式，用于欺詐檢測等領域。自編碼器通過其獨特的結構和訓練機制，在無監(jiān)督學習領域提供了一種強大的工具，能夠自動學習數據的內在結構和特征，進而在多種應用中發(fā)揮作用。隨著深度學習技術的不斷進步，自編碼器及其變體在解決復雜問題上展現出巨大的潛力。(ANN)(ArtificialNeuralNetwork，ANN)AN(CN)(RNN)CNNCNN由多個卷積層和池化層交替堆疊而成，逐層將圖像抽象CNN已成為圖像篡改檢測的主流方法。ossleretion架構對視頻幀提取特征進行真假分類，取得了優(yōu)于傳統(tǒng)方法的性能。RNN則擅長處理序列數據。相比前饋網絡，RNN引入了記憶機制，可以捕捉時序特征。如GueraCNN和學習視頻幀的時序信息以檢測深度偽造。ansormerRNNansrmer1）基于文本的深度偽造：ansormer2ansormer視頻生成：ansormer無論采取何種架構，ANN都需要大量標注數據來訓練。目前深度偽造檢測領域面臨高質量數據集缺乏的zolinoJPEG等擾動，使得檢測模型的魯棒性和泛化性大幅提升。此外，一些研究還探索將對抗樣本技術用于提升檢測模型魯棒性。GAN)的原理與應用生成對抗網絡（GAN）是深度偽造最為核心的技術，是人工神經網絡(ArtificialNeuralNetwork，ANN)的一個特殊類型。與傳統(tǒng)深度學習技術的單鏈條模式不同，GAN（GAN）的對抗機制，使合成的非真實音視頻作品無限貼近真正版本。生成對抗網絡（GAN）在深度偽造領域應用廣泛，特別是基于人臉的生成、編輯、替換和重演。例如，深度偽造人臉生成可以分為四類：人臉完全生成技術、人臉屬性編輯技術、人臉身份替換技術和人臉面部重演技術，這些不同分類運用了不同的“變體GAN”，下表羅列了不同分類的“變體GAN”及其衍生技術類別。表2.11深度偽造人臉技術生成分類表深度偽造人臉技術生成分類人臉完全生成技術GANDCGANWGANStyleGANTediGANCollaborativeDiffusion人臉屬性編輯技術IcGANStarGANAttGANSTGANHifaFaceHFGI人臉身份替換技術FSGANFaceShifterInfoSwapMegaFS3dSwapDiffSwap人臉面部重演技術Face2FaceA2VICface3dSwapDAE-Talkeretc…數據來源：楊宏宇，李星航，胡澤.深度偽造人臉生成與檢測技術綜述，華中科技大學學報(自然科學版)，安全牛自主繪制總體來看，生成對抗網絡（GAN）技術推動了圖像和視頻生成、處理技術的革新，其提供了一種強大的技術手段，使得偽造內容的生成變得更加真實和高效，但同時也帶來了對檢測和防范的進一步挑戰(zhàn)。擴散模型（DDPM）的原理與應用DDPM（DenoisingDiffusionProbabilisticModels）2015Sohl-Dickstein的核心原理基于擴散過程，這一過程包括兩個主要階段：前向擴散過程和逆向去噪過程。①前向擴散過程：這一過程逐漸將高斯噪聲添加到圖像中，直到圖像最終變成純噪聲。這個過程可以視為一個馬爾可夫鏈②逆向去噪過程：這是一個學習的過程，目標是從純噪聲開始，逐步去噪，最終生成一個實際的圖像。這個過程同樣是一個馬爾可夫鏈，但是它是參數化的，需要通過訓練神經網絡來學習如何從噪聲中恢復出圖像。DDPM的主要作用是生成高保真的圖像。通過模擬物理世界中的擴散過程，DDPM能夠從簡單的噪聲分布生成復雜的數據樣本，其訓練過程穩(wěn)定，但保真度不及GAN。此外，DDPM具有可解釋性，能夠更好地理解圖像生成過程。DDPM的這些特性使其在圖像生成、多模態(tài)圖像處理等領域展現出廣泛的應用潛力，例如在多模態(tài)圖像融合中，DDPM可以用于組合不同模態(tài)下的圖像并保留互補信息。盡管DDPM在計算成本和實時推理方面存在挑戰(zhàn)，但通過不斷的研究和改進，DDPM在訓練效率和推理速度方面仍有提升空間。深度偽造和合成媒體技術應用分析深度偽造和合成媒體技術廣泛應用于視頻、圖像與語音領域中。安全牛通過公開調研和企業(yè)訪談發(fā)現，按（（（37%、56%7%。視頻領域：換臉、動作轉移、表情操縱等視頻篡改和合成是深度偽造的主要應用場景。利用換臉、動作轉移、表情操縱等技術，可以生成以假亂真的視頻內容。視頻換臉是將目標人物的面部嫁接到源視頻人物上，從而創(chuàng)造目標人物做特定動作、說特定言論2018·皮爾視頻在網上瘋傳，視頻中“奧巴馬”抨擊特朗普，2D3D2D如深度偽造利用人臉對齊，用自動編碼器逐幀替換關鍵面部特征?；?D的方法在三維空間重建人臉，如提取人臉關鍵點并擬合3D模型，調整姿態(tài)和表情，再融合渲染到目標視頻中。動作轉移指將源人Abeman移方法，可以將專業(yè)舞者的動作映射到普通人身上。動作轉移可用于虛擬教學、輔助創(chuàng)作等。表情操縱則聚焦RNN這些視頻篡改技術給取證帶來很大挑戰(zhàn)。一方面，經過換臉處理的視頻具有很強的欺騙性，難以靠肉眼識別。另一方面，視頻數據量大、內容復雜，全面檢測的難度和成本高。一些涉案視頻可能經過多重篡改，既有換臉，又有表情操控，甚至植入虛假背景，給視頻取證帶來很大挑戰(zhàn)。盡管已有諸多嘗試，但視頻篡改檢測依然面臨樣本少、場景復雜、迭代快等技術挑戰(zhàn)。未來深度偽造視頻可能更加逼真，更難識別。如何在海量、高分辨率視頻中快速、準確檢測深度偽造視頻仍需要學界和業(yè)界的持續(xù)攻關。圖像領域：人臉生成、屬性編輯、風格轉換等AIPGGANBigBiGAN2022GFPGAN-v1.31024x1024FFHQ0.5612的人類評分優(yōu)于StyleGAN3(0.5087)。神經輻射場、隱空間探索等技術進一步放大了人臉生成的潛力空間。GrioryANuiANDMZAO、FaceAppAdaI、DualtleAN()CLIP引導的擴散模型，更是以文本－圖像特征對齊為基礎，用語言描述引導人臉的風格變換，極大降低了圖像處理的技術門檻。AI語音領域：克隆、轉換、合成等語音合成和轉換是深度偽造的又一重要應用，其原理是用機器學習模仿特定人的語音，生成其本人并未說過的內容。具體而言，語音偽造主要有以下幾種類型：①語音克隆指在給定少量目標人物語音的情況下，合成5也可能被濫用。②語音轉換ANcleAN論。③語音合成則是用計算機生成一段原本不存在的語音，其內容完全由輸入的文本決定。如Deoie、人員利用它就能偽造各種假消息。針對語音偽造，傳統(tǒng)的說話人識別技術可能會失效。因為神經網絡可以分析人的語音特征，提取音素、基頻等關鍵參數，再重組為與原聲高度相似的語音。一些研究者嘗試從音質、韻律、情感等方面入手，探索語音②韻律分析。機器難以完美模仿人類語音的節(jié)奏、重音等韻律特征，形成其獨特的“聲紋”。③情感分析。人類語音飽含情感，而情感合成是語音偽造的技術瓶頸。有研究者發(fā)現，真實語音的情感變化更加自然連貫，由此提出了一種基于情感相似度的檢測框架?？偟膩砜?，語音領域的深度偽造發(fā)展非常迅速，給司法取證、個人隱私等帶來嚴峻挑戰(zhàn)。惡意者可能偽造公眾人物講話，誤導輿論；偽造他人聲音，實施詐騙；甚至制造虛假證據，干擾司法。這不僅危害個人名譽、財產安全，也可能引發(fā)社會動蕩。未來語音取證除了要提高檢測精度，還要與說話人識別、情感分析等技術深度融合，從語音事件的背景、場景等多方面排查可疑點，以應對不斷演進的語音偽造威脅。同時，還要加強對語音的溯源、保護和管理，完善相關法律，筑牢防偽造的制度防線。深度偽造和合成媒體安全威脅分析個人層面社會層面國家層面本章將從個人、社會和國家三個層面全面剖析深度偽造的安全威脅，呼吁各界提高警惕，采取有效舉措應對相關威脅。個人層面社會層面國家層面隱私泄露：個人數據被惡意采集與濫用身份盜用：冒用他人身份實施違法犯罪活動聲譽損害：偽造淫穢、暴力等內容污蔑個人

虛假信息擴散：偽造內容混淆視聽，誤導公眾輿論操控：惡意引導、分化社會輿論走向誠信危機：動搖社會誠信基礎，加劇不信任感

政治傳播：制造虛假政治事件，引發(fā)輿論博弈經濟挑戰(zhàn)：捏造不實信息，影響經濟運行國際合作：引發(fā)國際信任赤字，構成復雜挑戰(zhàn)圖2.31深度偽造和合成媒體安全威脅分析圖對個人層面的安全威脅深度偽造對個人層面的侵犯，最直觀的就是侵犯大眾合法權益，使其財產受到損失，影響個人生活，安全?？偨Y其為三個細化方面：隱私泄露：個人數據被惡意采集與濫用。5320231210.9金融、電商、出行等場景。隨著人臉識別在身份認證、移動支付等領域的普及，海量人臉數據被存儲在互聯網各個角落。個人信息的過度采集、非法買賣和濫用，已成為網絡時代的頑疾。攻擊者利用深度學習技術，對這些易于獲取的人臉數據進行訓練，生成以假亂真的人臉圖片或視頻，進而對個人隱私和聲譽造成損害。冒用身份實施詐騙等犯罪活動的現象日益增多。安全牛分析發(fā)現，身份盜用多集中在色情及詐騙兩大場景。一方面，攻擊者可通過視頻換臉，將受害人的面部“移植”到任意視頻中，使其“現身”于色情、政治等場景，常見于公眾人物。另一方面，語音合成和變聲技術也為網絡詐騙提供了新工具。犯罪分子只需搜集公眾人物一2023聲譽損害：偽造淫穢、暴力等內容污蔑個人。不法分子利用深度偽造技術詆毀、污蔑他人，是近年來AI快速創(chuàng)制以假亂真的違法、有害內容，冒用他人身份在網上傳播，給被害人個人名譽和形象帶來嚴重損害。不法分子還利用深度偽造制造名人“講話”、“采訪”等虛假內容，誤導公眾。對社會層面的安全威脅深度偽造對安全的威脅不局限于個人層面，目前，隨著技術的快速發(fā)展，已逐步影響到社會運轉的方方面面。安全牛在本節(jié)將重點從虛假信息擴散、輿論操縱、誠信危機三個方面進行社會層面的安全威脅分析。虛假信息擴散：AI游戲等熱門話題的“雷軍（采用深度偽造技術合成的雷軍）罵人”視頻即典型案例。又如，偽造鐘南山院士聲音的音頻內容在微信群內大量傳播，在疫情期間引發(fā)社會恐慌。有研究表明，即使“事實后真相”出現，即信息被證實為假，但負面影響卻難以消除。AI這為深度偽造提供了操縱輿論的好機會。一些組織和個人利用這種技術制造符合受眾偏見的內容，以操縱和分化輿論。有研究表明，人們更易接受與自己立場相符的虛假信息，偽造內容越迎合受眾偏見，就越容易被接受和傳播。而“信息繭房”使得大眾難以發(fā)現自己已是局中棋子，失去自由意志。誠信危機：動搖社會誠信基礎，加劇不信任感。在人工智能時代，誠信這一社會基石正受到深度偽造技術的嚴重威脅。曾經作為事實真相鐵證的圖像和視頻，其可信度已大幅下降，公眾開始質疑“眼見為實”的原則。個人隱私泄露和聲譽受損只是表面現象，它們反映了社會誠信體系的悄然崩潰。在人工智能時代，如何重塑信任成為一個嚴肅的命題。雖然深度偽造尚未對社會運行造成顛覆性影響，但其潛在風險已經顯現。我們必須采取預防措施，及早應對這一挑戰(zhàn)。對國家層面的安全威脅深度偽造對安全的威脅除個人和社會層面外，對國家層面的潛在安全威脅更令人擔憂。安全牛在本節(jié)將重點從政治傳播、經濟挑戰(zhàn)和國際合作三個方面進行國家層面的安全威脅分析。政治傳播：制造虛假政治事件，引發(fā)輿論博弈。深度偽造技術可以被用來制造虛假的政治事件，影響美國，深度偽造技術已經被用于制造虛假的政治宣傳，影響公眾對政治人物的看法，引發(fā)輿論博弈。經濟挑戰(zhàn)：捏造不實信息，影響經濟運行。通過發(fā)布深度偽造視頻，捏造政府行為、編造官員討論政策調整等手段，對國家經濟穩(wěn)定造成潛在損害。在經濟和金融危機時期，利用深度偽造生成的內容放大先前存在的經濟擔憂和市場的波動，對股票、期貨市場帶來重大沖擊，對國家的經濟運行造成負面影響。國際沖突：引發(fā)國際信任赤字，對和平、安全構成復雜挑戰(zhàn)。深度偽造技術可能會被用于國際虛假信息戰(zhàn)，破壞國際關系和戰(zhàn)略互信，甚至可能引發(fā)國際危機和沖突。它降低了國家間的信任，增加沖突風險，如2019可能引發(fā)其他擁有核武器的國家提高其核力量的警戒等級。此外，恐怖組織也利用深度偽造招募人員，激發(fā)針對特定目標的暴力。值得一提的是，深度偽造已成為國際社會日益關注的挑戰(zhàn)。深度偽造和合成媒體安全檢測類技術分析主動式防御被動式防御主動式防御被動式防御（信任類）（檢測類）圖2.41深度偽造和合成媒體安全防御技術分類圖主動式防御技術著眼于事前的預防措施。這類技術在視音頻內容發(fā)布之前，通過嵌入隱蔽的信息，如數字水印或信任認證等，來實現主動的溯源或防止惡意使用。這樣的方法旨在主動保護數據內容不被濫用于偽造視頻，從而在源頭上實現防御；相對地，被動式防御技術主要關注于事后的取證工作，即對已經制作并傳播的視頻進行分析，以判斷其是否包含偽造的視音頻內容。這種技術的核心在于識別和驗證視頻的真實性，通常在視音頻發(fā)布后進行。本章節(jié)重點就主動式防御（信任類）技術進行分析，下一章節(jié)就被動式防御（檢測類）進行深度分析。目前，業(yè)界和學術界已經開展一系列卓有成效的研究，主要集中在數字水印、區(qū)塊鏈認證、可信硬件等方面。數字水印溯源技術 1主動式防御（信任類）

3 可信硬件支撐環(huán)境的構建基于區(qū)塊鏈的內容認證機制 2圖2.42深度偽造和合成媒體安全主動式防御（信任類）細分類別圖數字水印溯源技術研究數字水印是一種隱藏在數字媒體載體中的標識信息，具有很強的魯棒性和隱蔽性，可有效防止內容被篡改我們可以在視頻制作源頭嵌入數字水印，記錄視頻的原始屬性、制作過程等可信信息。一旦發(fā)現疑似偽造的視不僅可以震懾潛在的造假行為，提高數字資產保護效率，也有利于事后取證和行為人追責。然而，數字水印技術要真正發(fā)揮實效，尚需攻克一些技術難題。首先是如何設計能夠抵抗深度偽造的水印方案。由于深度偽造模型的特殊性，傳統(tǒng)的魯棒水印方案往往難以直接適用。一些學者嘗試使用對抗訓練等方法，生成能抵御深度神經網絡的對抗性水印，但在保真度和魯棒性之間如何平衡仍是一大挑戰(zhàn)。其次是如何在嵌入水印的同時，不影響視頻內容本身的質量，這對于一些對畫質要求較高的場景尤為重要。此外，面對海量視頻內容，我們還需研究更高效、更智能的水印檢測與提取算法，以實現大規(guī)模溯源和快速定位。因此，未來深度偽造數字水印技術的研究，應著眼于水印的對抗魯棒性增強、視頻質量保持、檢測效率提升等方向，為實際應用奠定更加堅實的基礎?；趨^(qū)塊鏈的內容認證機制區(qū)塊鏈以其去中心化、防篡改等特性，為解決互聯網內容可信問題提供了新思路。區(qū)塊鏈底層由一個個記錄數據、互相鏈接的區(qū)塊構成，每個區(qū)塊包含前一個區(qū)塊的哈希值，從而保證了鏈上數據的一致性和不可篡改性。將視頻、圖片等內容的摘要信息上鏈存證，就可以建立數字內容的第三方公證平臺，實現內容來源可追溯和可校驗。在此基礎上，結合數字簽名、哈希指紋等密碼學技術，還能構建數字內容版權管理、確權維權的應用生態(tài)。這對于遏制深度偽造內容的濫用傳播具有重要意義。目前，國內外已有一些將區(qū)塊鏈技術應用于內容認證和版權保護的成功案例。如Chainalysis推出了一套基于比特幣區(qū)塊鏈的數字資產追蹤系統(tǒng)，通過在數字內容中嵌入比特幣地址，一旦發(fā)現資產外流，即可通過該持證方可隨時驗證內容真實性。阿里巴巴的螞蟻區(qū)塊鏈，現升級為“螞蟻鏈”（ANCHAI）3000品提供數字存證這些探索表明，區(qū)塊鏈有望成為深度偽造防治體系中的重要一環(huán)。將給區(qū)塊鏈系統(tǒng)帶來巨大的存儲和計算壓力；而僅存儲視頻指紋，則可能損失一些重要的內容特征，影響事后取證效果。因此，設計兼顧安全、高效的數據上鏈機制是區(qū)塊鏈對抗深度偽造的關鍵。同時，如何平衡用戶隱私保護和內容可追溯性，也考驗著相關機制的制度設計?？偟膩碚f，現階段區(qū)塊鏈在視頻溯源領域的應用還處于探索階段，距離大規(guī)模落地還需一段時間。未來，隨著區(qū)塊鏈性能的不斷優(yōu)化以及跨鏈、側鏈等擴展方案的成熟，區(qū)塊鏈有望與數字水印等技術深度融合，形成多方協同的深度偽造治理方案?？尚庞布苇h(huán)境的構建可信硬件環(huán)境的構建對深度偽造技術的防范和治理起著至關重要的作用?？尚庞布侵竿ㄟ^硬件技術機制確保系統(tǒng)安全及可信，并以此為基礎，構建安全可信的操作環(huán)境，也稱為可信計算環(huán)境。它可以為系統(tǒng)提供更AITPM(TrustedPlatformModule)TEE(TrustedExecutionEnvironment)技術。TPM是一種符合國際可信計算組織規(guī)范的安全芯片，能夠為系統(tǒng)提供硬件級的密碼運算、密鑰管理、平臺完整性檢測等安全功能。TEE構建可信硬件支撐環(huán)境對深度偽造防范的價值主要體現在以下幾個方面：首先，可信硬件環(huán)境可以對系統(tǒng)TPMTEE中運行，確保檢測過程不被惡意程序所干擾。這大大提高了檢測的可靠性。其次，可信硬件環(huán)境可以幫助系統(tǒng)TPM等硬件安全模塊嵌入到深度偽造檢測設備中，可以在啟動時檢驗執(zhí)行環(huán)境的完整性，防止檢測軟件被篡改?；诖诉€可以實現遠程認證，保障執(zhí)行環(huán)境的可信度。此外，可信硬件支撐的密鑰管理能力，可用于構建深度偽造內容溯源機制。除了上述直接作用，構建可信硬件支撐環(huán)境還有助于提升相關行業(yè)的安全能力，提高抵御深度偽造風險的整體韌性。政府和行業(yè)組織應加大支持力度，推動可信硬件支撐環(huán)境的建設?？傊?，可信硬件支撐環(huán)境的構建是應對深度偽造安全威脅的重要舉措。通過在硬件層面嵌入安全機制，可以極大提升深度偽造檢測的可靠性，強化內容溯源能力，提高整體防護水平。這需要產業(yè)鏈各方通力合作與協同推進。伴隨新一代信息技術的發(fā)展和網絡安全形勢的變化，構建可信硬件支撐環(huán)境將成為共識，在深度偽造治理和網絡空間安全中發(fā)揮越來越大的作用。聚焦深度偽造內容本身的分析檢測方法1目前常用的聚焦內容本身的分析檢測方法包括：基于人體生物特征的檢測方法、基于人物身份信息的檢測方法和同背景不同人（模版）的檢測方法聚焦深度偽造內容本身的分析檢測方法1目前常用的聚焦內容本身的分析檢測方法包括：基于人體生物特征的檢測方法、基于人物身份信息的檢測方法和同背景不同人（模版）的檢測方法深度偽造和合成媒體安全檢測類技術分析聚焦深度學習的檢測方法2基于多模態(tài)融合的檢測方法3圖2.51深度偽造和合成媒體安全被動式防御（檢測類）細分類別圖不同于主動式實施條件的苛刻及主動化要求，被動式檢測因其技術實現的可行性和對現有視頻內容的廣泛適用性，成為當前深度偽造防御技術的主流。為應對深度偽造帶來的安全威脅，學術界和產業(yè)界開展了一系列深度偽造檢測類技術研究，本章將圍繞目前主流的深度偽造檢測技術的具體方法，即聚焦深度偽造內容本身的分析檢測方法、聚焦深度學習的檢測方法以及多模態(tài)融合的方法，進行展望與發(fā)展研究。聚焦深度偽造內容本身的分析檢測方法基于內容本身的檢測方法主要利用深度偽造視頻與真實視頻在某些物理特征上的差異進行檢測。相比于深度學習方法，此類方法具有更好的可解釋性，能夠指出造假痕跡所在。目前常用的聚焦內容本身的分析檢測方法包括：基于人體生物特征的檢測方法、基于人物身份信息的檢測方法和同背景不同人（模板）的檢測方法?；谏锾卣鞯臋z測方法?；谏锾卣鞯臋z測方法利用偽造人臉與真實人臉在生物特征上的差異進行檢測。安全牛根據公開資料總結這些差異包括但不限于眨眼頻率、角膜鏡面高光、眼神凝視、嘴部運動、人臉與頭部姿勢的一致性以及心跳節(jié)律等。例如，LiHu等人發(fā)現生成對抗網絡（GAN）生成的人臉在角膜鏡面高光上存在不一致性。Peng等人則關注于眼神凝視的細微特征，HaliassosangQi的泛化能力受到限制，尤其是在面對不斷進步的GAN深層次的生物特征?；谌宋锷矸菪畔⒌臋z測方法。針對有影響力的人物，如國家領導人和明星等，基于身份信息的檢測技術在保護重要人物免受深度偽造安全影響方面發(fā)揮了重要作用。通過分析視頻中人物的身份特征，利用先AaralOpnae2取面部數據，通過SVM區(qū)分真假視頻。DongOuterFace算法，以提高檢測的泛化性能。然而，這些方法需要真實視頻對比，不適用于社交媒體的大規(guī)模內容檢測。為了解決這一問題，CzolinoID-eal3D一起訓練分類網絡，僅用真實視頻訓練即可獲得高泛化性的判別器，顯著提高了高壓縮視頻中面部重現偽造的檢測準確度。盡管基于身份信息的檢測器在性能和實用性上表現良好，但部分方法因缺乏訓練數據而對普通用戶有局限性。同背景不同人（模板）檢測方法。這種攻擊方式涉及使用相同的模板對多個人的面部特征進行替換。攻擊者可能會保留視頻中的人像背景和衣服等素材，只替換面部特征，以制作出看似真實的視頻。這種攻擊方式的挑戰(zhàn)在于，它可能更容易繞過基于算法的圖像檢測系統(tǒng)，因為除了面部特征外，視頻的其他元素都是真實的。當前有企業(yè)根據人臉照的紋理、深度信息，以及圖像序列的特征來進行聚類和分類，將圖像分組，并通過比較這些組內和組間的特征差異來判斷圖像是否為攻擊圖片（模板），并給予異常評分，對于評分較高的圖片系統(tǒng)會自動入模板庫，較低評分的模版，會通過人工進行二次確定，決定是否加入模板庫。聚焦深度學習的檢測方法與基于內容本身的檢測分析方法相比，基于深度學習的檢測方法能夠自動從大量數據中學習判別深度偽造的特征，無需依賴先驗知識和專家經驗。根據所使用的網絡結構，基于深度學習的檢測方法可進一步分為基于CNN卷積神經網絡善于提取圖像中的局部特征，已在計算機視覺領域取得了巨CNNRossleretinCNaeoenscs++8%，激發(fā)了后續(xù)研究CNNNguenBaareouer制卷積濾波器和加入注意力機制來增強模型對篡改痕跡的識別。zolino學習方法，提高了模型對未知生成方式的泛化能力。NirkinCNN檢測器已經很強大，但在實際應用中，由于深度偽造視頻的幀數和分辨率CNN檢測器的泛化能力，是未來一個重要的研究方向。循環(huán)神經網絡(RNNCNNRNNRNNCNNRNNRNNansormer測任務中將RNN與Transformer結合，充分利用局部和全局時序信息，值得進一步探索?；贕AN生成圖像指紋檢測。隨著生成對抗網絡（GAN）GANGAN時準確率會降低。MaraANPRNU標記被稱為指紋，可以用來進行可靠的偽造人臉檢測。GAN指紋的內在機制，揭示了其BN層的權重壓縮有關。WangGANGAN生GAN生成方法的檢測器的泛化性能，一些研究者提出利用對抗訓練和元學習來優(yōu)化檢測器。Wang等人將對抗樣本引入訓練，使檢測器在應對對抗攻擊時魯棒性更強?？偟膩碚f，基于深度學習的檢測方法依托大規(guī)模數據集和強大的學習能力，在檢測領域取得了矚目成績。但這些方法也存在計算開銷大、可解釋性差、泛化能力不足等局限性。同時，它們大多只關注視頻中的視覺信息，忽略了音頻、文本等其他模態(tài)的信號。基于多模態(tài)融合的檢測方法深度偽造視頻通常包含視覺、聽覺等多種模態(tài)信息，僅依靠單一模態(tài)進行檢測往往難以全面刻畫深度偽造的特征。因此，研究者開始探索多模態(tài)融合的檢測框架，綜合利用不同模態(tài)的互補信息，以期獲得更加準確和魯棒的檢測效果。根據融合的信息類型不同，多模態(tài)檢測方法可進一步分為視聽覺特征交叉驗證、統(tǒng)計特征與深度特征融合、引入背景知識輔助檢測和構建多模態(tài)深度偽造樣本集等類型。視聽覺特征交叉驗證。在人類辨別視頻真?zhèn)螘r，視覺和聽覺線索都是關鍵因素。研究者們嘗試將唇語Korshunov特征，使用獨立檢測器建模并加權平均輸出，發(fā)現融合后性能優(yōu)于單一模態(tài)。Mial焦于關鍵區(qū)域。然而，現有方法主要關注假唇音不同步的視頻，對于換臉、換頭等無需篡改音頻的偽造方式，檢測效果有限。Chugh等人引入預訓練的說話人識別和人臉識別模型，通過比較輸出差異判斷視聽覺身份一致性，實驗表明該方法在多個數據集上表現良好。盡管如此，利用視聽覺信息進行深度偽造檢測仍面臨挑戰(zhàn)。DFDC在音視頻質量和篡改方式多樣性方面有待提高，限制了檢測器的泛化能力。此外，隨著語音克隆等技術的發(fā)展，視聽覺身份不一致的案例將減少。未來的研究需要挖掘面部細微表情與情緒語氣的協同性，并探索更深層次的模態(tài)融合方法，以充分發(fā)揮多模態(tài)信息的協同作用。統(tǒng)計特征與深度特征融合。前文提到，基于統(tǒng)計特征的方法和基于深度學習的方法在檢測深度偽造方面各有優(yōu)勢。一些研究者嘗試將兩類方法的優(yōu)勢結合起來，以期獲得更好的檢測效果。統(tǒng)計特征與深度特征的能夠分析統(tǒng)計特征和深度特征在檢測中的作用。同時，適當引入統(tǒng)計特征有助于提高深度學習模型的魯棒性，尤其在應對對抗攻擊時。傳統(tǒng)的對抗攻擊大多針對神經網絡的梯度信息，而統(tǒng)計特征則不受其影響。Wang等人發(fā)現，在融合統(tǒng)計特征后，深度學習檢測器面對對抗樣本時的性能顯著提升。未來可以探索將統(tǒng)計建模與對抗訓練相結合，以提高檢測器的安全性。需要指出的是，現有融合方法所用的統(tǒng)計特征仍較為簡單，大多為像素共生矩陣、Markov轉移概率等二階統(tǒng)計量。一些更高階的統(tǒng)計特征，如局部像素相關性、譜相關性等，在圖像篡改檢測中已經顯示出優(yōu)勢，但尚未被用于深度偽造檢測。如何從理論和實踐角度探索新的統(tǒng)計特征，并將其與不同深度學習模型相融合，可能成為一個有前景的方向。引入背景知識輔助檢測。結合外部知識如事實和常識，可以提升深度偽造檢測的準確性。Wu了一種多模態(tài)檢測框架，分析視覺內容和語音轉錄文本，通過知識庫比對捕捉視覺與語義的錯誤關聯，有效識別換臉視頻。angnsorer習視覺與文本的關聯性，通過對比學習提升檢測準確率。然而，該領域仍面臨挑戰(zhàn)，包括知識庫規(guī)模小、隱式語義信息處理困難、高質量標注數據獲取難等問題。未來研究需探索弱監(jiān)督學習、自監(jiān)督對比學習等方法，優(yōu)化多模態(tài)融合框架，實現更準確的篡改檢測與定位。隨著多模態(tài)數據的增長和新學習范式的出現，深度偽造檢測技術有望進一步發(fā)展，為構建智能、安全的信息社會提供支持。構建多模態(tài)深度偽造樣本集。為了支撐單模態(tài)及多模態(tài)偽造檢測技術，有廠商提出了多模態(tài)深度偽造樣DPIDPI（深度包檢測）技術還原網絡流量中的數據包，以獲取更多的深度偽造樣本。預訓練偽造模型自動生成偽造樣本指利用已有的生成對抗網絡（GAN）或其他深度學習模型，可以自動生成大量的偽造樣本。這些模型通常在大規(guī)模的真實數據集上進行預訓練，然后通過調整參數來生成偽造內容，如人臉替換或表情操縱等。半自動標注技術指為了提高標注效率和準確性，首先使用預訓練的模型對樣本進行初步標注，然后由人工審核和校正這些標注結果。這種方法可以大幅減少人工（的深度偽造樣本集，這些樣本集不僅能夠支持單模態(tài)偽造檢測技術的研究，還能夠促進多模態(tài)融合檢測技術的發(fā)展。這樣的樣本集對于訓練和評估深度偽造檢測模型至關重要，有助于提高模型的泛化能力和檢測準確性。第三章AI深度偽造和合成媒體安全的市場現狀分析深度偽造和合成媒體安全的市場表現分析本章安全牛將從深度偽造和合成媒體安全的市場規(guī)模、公開中標信息及廠商投融資三方面分析其具體市場表現。深度偽造和合成媒體市場規(guī)模分析根據安全牛公開調研和企業(yè)訪談收集深度偽造和合成媒體安全市場相關信息顯示，20231.19202427%4.0850%。其次為金融、銀行和運營商。從數據來看，深度偽造和合成媒體目前正處于發(fā)展早期階段，呈現出同比增幅較大，受政務、大客戶采購的影響較大的現實趨勢。0101020304圖3.11中國深度偽造和合成媒體市場營收及主要客戶數據分析圖深度偽造和合成媒體公開中標信息分析2019（202410）的深度偽造和合成媒體公開中標標的信息顯示，201912620192，2020202116，202229，202332，2024（1-10）30標金額來看，2019183，2020865，20211171，202228734713，202410345%，2.1雖然2024年數據“突飛猛進”，但從深度偽造和合成媒體中標標的整體情況來看，在數字內容深度偽造檢測與防范領域，商業(yè)化應用和盈利模式的探索仍在斷深入，且有巨大潛力。目前，該領域的主要投資方集中在監(jiān)管方，而部委的采購數據通常不披露。金融、銀行因為具體業(yè)務具有較強的采購意愿；媒體集團出于提升內容生產效率、豐富表現形式和增強用戶互動的需求，對深度偽造技術的應用和防范投入較多資源；公安部門則更側重于防范深度偽造技術可能帶來的安全威脅，如虛假信息的傳播、網絡詐騙等，因此在技術防范投入較大。未來，隨著技術的進步和應用場景的拓展，預計會有更多行業(yè)和領域開始關注并投資于這一技術，推動其商業(yè)化進程。圖3.12中國深度偽造和合成媒體安全招投標事件數量和中標金額分析圖深度偽造和合成媒體廠商投融資情況分析2018（202411整體來看，2020202132024表3.112018.01-2024.11深度偽造和合成媒體主流廠商投融資匯總表企業(yè)名稱輪次融資時間融資金額投資方地區(qū)中科睿鑒股權投資2024/6/19未披露達晨財智北京市瑞萊智慧戰(zhàn)略投資2024/4/12未披露順禧基金,智譜AI等北京市瑞萊智慧股權投資2022/8/22未披露夢景投資,卓源資本北京市深信科創(chuàng)Pre-A+輪2022/5/24數千萬人民幣北斗資本領投合肥市高維數據Pre-A輪2021/12/17未披露安恒信息合肥市深信科創(chuàng)Pre-A輪2021/10/18數千萬人民幣國汽投資、將門創(chuàng)投領投合肥市瑞萊智慧A輪2021/9/273億人民幣資基金等北京市中科睿鑒股權投資2021/5/12未披露深圳柯源北京市瑞萊智慧Pre-A輪2021/2/4數千萬美元基石資木等北京市中關村科金股權投資2020/8/7未披露沨華資本北京市深信科創(chuàng)天使輪2020/8/41000萬人民幣度巖資本領投合肥市瑞萊智慧天使+輪2020/3/4數千萬人民幣松禾資本領投,同渡資本跟投北京市瑞萊智慧天使輪2019/1/4數千萬人民幣百度風投、中科創(chuàng)星領投,水木清華校友種子基金、卓源亞洲等跟投北京市紅陣網絡股權投資2018/10/24未披露安恒信息南京市數據來源：安全牛根據公開信息自主整理，自主繪制從深度偽造和合成媒體投資方視角來看，創(chuàng)投/從獲得投融資的廠商所在地區(qū)來看，主要集中在北京和合肥，此兩地具有較好的政策落地優(yōu)勢。AI深度偽造和合成媒體安全生態(tài)圖譜分析（3.2-1深度偽造和合成媒體安全的生態(tài)圖譜深度偽造技術領域的重度參與者可以按照研究側和服務側兩部分內容進行劃分。數據來源：安全牛根據公開信息自主整理，自主繪制圖3.21深度偽造和合成媒體安全的生態(tài)圖譜數據來源：安全牛根據公開信息自主整理，自主繪制研究側包括擁有深度偽造專利認證的金融機構、科研院所和高校。根據安全牛收集的公開信息顯示，金融機構獲得深度偽造檢測認證的企業(yè)有阿里巴巴、支付寶和馬上消費金融股份有限公司，他們?yōu)樘剿魃疃葌卧旒夹g在金融安全和用戶體驗方面的應用正做著研究貢獻；但從整體研究側來看，科研院所和高校這些機構在深度偽造的基礎研究、技術開發(fā)和應用探索方面發(fā)揮著關鍵作用?？蒲性核猩疃葌卧鞂＠@得者包括但不限于：公安部第三研究所、中國科學院計算技術研究所、中國科學院信息工程研究所、中國電子科技集團公司第三十研究所、中國科學院自動化研究所等。高校則是培養(yǎng)未來技術人才和進行前沿研究的重要基地，南昌大學、暨南大學、齊魯工業(yè)大學（山東省科學院）、浙江大學、南昌大學、中國科學技術大學、大連理工大學、武漢大學、西安交通大學、中山大學、西安電子科技大學等大學均獲得深度偽造相關專利證明。服務側則涵蓋了提供深度偽造和合成媒體安全服務的企業(yè)，分為以網絡和數據安全為主營業(yè)務的企業(yè)、以人工智能為核心的企業(yè)和滿足自我檢測需求的互聯網企業(yè)。以網絡和數據安全為主營業(yè)務的企業(yè)如國投智能、亞信安全、東方通、頂象科技、高維數據、浩瀚深度等，他們不僅可以提供深度偽造檢測和防護服務，還在網絡安全和數據安全方向具有較大優(yōu)勢。AI范深度偽造內容，推動技術的正向發(fā)展。滿足自我檢測需求的互聯網企業(yè)，包括央視頻、愛奇藝、嗶哩嗶哩等，這些企業(yè)在內容審核、版權保護和用戶安全等方面有強烈需求。它們通過內部研發(fā)或與專業(yè)服務提供商合作，確保平臺內容的真實性和安全性。隨著技術的不斷進步，這些參與者在推動技術發(fā)展的同時，也在積極構建一個更加安全、可靠的數字環(huán)境。深度偽造和合成媒體安全市場成熟度分析根據安全牛調研發(fā)現，當前我國深度偽造和合成媒體安全市場正處于發(fā)展前期階段，安全牛從頂層設計、中層構建、基層應用三個層面來具體分析：頂層設計：我國正在逐步建立和完善相關法律法規(guī)，以應對深度偽造技術帶來的挑戰(zhàn)。2019雖然國內在立法方面在不斷進行探索，但與一些發(fā)達國家相比，國內在深度偽造的法律規(guī)制方面還有較大的完善空間。需要更多的時間和資源來逐步走向成熟。基層應用：安全牛發(fā)起的《大眾對深度偽造和合成媒體技術安全認知、態(tài)度及影響調研問卷》調研數據顯示，公眾對深度偽造技術的認識和警覺性正在逐步提高，但仍需要開展公民安全意識教育，增強公眾參與度，提高全社會對深度偽造技術的識別和應對能力。圖3.31深度偽造和合成媒體安全的市場發(fā)展階段圖綜上所述，中國的深度偽造和合成媒體安全市場正處于發(fā)展前期，隨著立法的進一步完善、產學研合作的逐漸深入以及服務提供商的越來越成熟，預計2027年可以進入蓬勃發(fā)展階段。深度偽造和合成媒體安全消費者敏感度分析深度偽造和合成媒體安全消費者認知度分析20249-10回收數據顯示的被調研者知道深度偽造和合成媒體技術的被調研者不知道深度偽造和合成媒體技術。圖3.41安全牛發(fā)起的消費者深度偽造和合成媒體技術認知度分析圖20249-10回收數據顯示，消費者對深度偽造和合成媒體技術制造的虛假內容整體認知度不高，49%的消費者認為（但絕大部分對如何識別感興趣的消費者認為能夠完全識別不同類型的深度偽造內容。3.42安全牛認為，從消費者對深度偽造和合成媒體技術的認知度來看，大眾普遍對這一概念及其典型案例有所了解，但在識別利用該技術制造的虛假內容方面存在明顯困難。近半數的消費者表示，他們難以識別出深度偽造和合成媒體技術生成的虛假內容，超過四成的消費者認為自己只能識別出一部分。這種情況與該技術的“三高”特點——高仿真度、高自動化、高隱蔽性緊密相關。深度偽造和合成媒體安全消費者使用度分析20249-10，21%的消費者進行過嘗試，1/379的沒有嘗試過此技術1/3/圖3.43安全牛發(fā)起的消費者深度偽造和合成媒體技術使用度分析圖20249-10回收數據顯示，消費者被問及深度偽造和合成媒體技術在哪些消極應用場景中最為常見時，87%的受訪者認為深度偽造技術被用于制造和傳播虛假新聞，78和傳播不雅內容、侵犯個人隱私和肖像權以及政治操縱和輿論引導也是公眾認為的主要消極場景，分別占到了72%、63%40%。圖3.44安全牛發(fā)起的消費者認為深度偽造和合成媒體技術消極場景使用度之分析圖安全牛認為，從消費者對深度偽造和合成媒體技術的使用度來看，大眾普遍對其存有好奇心，但同時也對此技術可能引發(fā)的誠信問題抱有普遍的擔憂。特別是對信息的真實性和個人隱私的保護，大眾顯得尤為關注。深度偽造和合成媒體安全消費者需求度分析20249-1088%，7752%。對于較為創(chuàng)新的方面，如緬懷故人、歷史重現和創(chuàng)新旅游，選擇的33%，31%28%12%7%。圖3.45安全牛發(fā)起的消費者認為深度偽造和合成媒體技術應用需求度分析圖圖3.46安全牛發(fā)起的消費者認為深度偽造和合成媒體技術安全保障需求度分析圖20249-10回收數據顯示，被問及大眾對深度偽造和合成媒體安全保障需求度時，大眾普遍認為加強法律制裁、加大平臺86%，8272%。另外，建立舉50%，66%，63%60%。圖3.46安全牛發(fā)起的消費者認為深度偽造和合成媒體技術安全保障需求度分析圖安全牛認為，從消費者對深度偽造和合成媒體技術的需求度來看，大家對于安全需求保障的意愿還是很強烈的，特別是對監(jiān)管側和技術提供商寄予厚望。深度偽造和合成媒體安全消費者敏感度分析20249-10回收數據顯示，在被問及是否擔心深度偽造和合成媒體技術對個人安全產生不好影響的時候，16的受訪者表示非常擔心，73%11%的受訪者表示不太擔心或者完全不擔心。圖3.47安全牛發(fā)起的消費者深度偽造和合成媒體技術敏感度分析圖20249-1010058，45%50，21%803.48安全牛認為，從消費者對深度偽造和合成媒體技術的敏感度來看，89%的受訪者對當前深度偽造和合成4550深度偽造和合成媒體安全消費者保護度分析20249-10回收數據顯示，當被問及對深度偽造和合成媒體的總體看法時，22%的被調研者表示積極的態(tài)度，他們期望看到更多的落地應用；15%的被調研者表示消極態(tài)度，他們期望技術可以受到管控甚至禁止；54%的受訪者持中立態(tài)度，他們認為可以應用，但需要受到規(guī)范或者管控；9%圖3.49安全牛發(fā)起的消費者深度偽造和合成媒體技術整體看法保護度分析圖20249-10數據顯示，當被問及受訪者是否采取了相應措施保護自己免受深度偽造技術帶來的消極影響時，82%的受訪者表示加強了個人隱私保護，如限制個人信息公開；70%的受訪者表示了解了相關防范知識；56%的消費者表示向可信平臺舉報可疑內容；45%的受訪者表示使用深度偽造檢測工具，13%的受訪者表示并沒有采取任何措施。圖3.410安全牛發(fā)起的消費者深度偽造和合成媒體技術安全保護度分析圖安全牛認為，從消費者對深度偽造和合成媒體技術的保護度來看，超半數受訪者對深度偽造和合成媒體持中立態(tài)度，認為其