試述AI在安全播出領(lǐng)域的應(yīng)用

試述AI在安全播出領(lǐng)域的應(yīng)用摘要：隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，人工智能技術(shù)（AI）得到了高速和深入的發(fā)展。在有線電視安全播出領(lǐng)域運(yùn)用AI技術(shù)，將會顯著提升安全播出工作效果。本文對安全播出中的內(nèi)容安全審播現(xiàn)狀進(jìn)行了總結(jié)，對AI技術(shù)發(fā)展進(jìn)行了介紹，并對如何將AI應(yīng)用于安全播出領(lǐng)域進(jìn)行了詳細(xì)分析，提出具體技術(shù)部署方案和相關(guān)建議，對AI技術(shù)運(yùn)用于數(shù)字電視安全播出具有啟示價(jià)值。關(guān)鍵詞：AI；安全播出；大數(shù)據(jù)1引言隨著我國經(jīng)濟(jì)發(fā)展和社會進(jìn)步，人民群眾對精神文化生活的需求日益增長。廣播電視播出機(jī)構(gòu)通過不斷增加播出頻道數(shù)量和節(jié)目內(nèi)容來滿足用戶這方面需求，這對作為廣播電視產(chǎn)業(yè)發(fā)展的基礎(chǔ)和廣播電視工作生命線的安全播出工作提出了更高要求。在我國，廣播電視承擔(dān)了黨、政府和人民宣傳喉舌的特殊功能，是輿論引導(dǎo)的主要工具。安全播出是廣播電視運(yùn)營商的首要任務(wù)，而內(nèi)容安全是安全播出的重點(diǎn)之一，特別是涉及政治、外交、軍事、國計(jì)民生大政方針等內(nèi)容時(shí)，更加不能有絲毫差錯(cuò)。2內(nèi)容安全審核與播出現(xiàn)狀對于有線電視運(yùn)營商來說，安全播出包括電視節(jié)目的播出、傳輸與覆蓋等網(wǎng)絡(luò)傳輸環(huán)節(jié)，也包括點(diǎn)播形式的媒資和頁面海報(bào)等內(nèi)容呈現(xiàn)環(huán)節(jié)。其中，媒資內(nèi)容安全涉及意識形態(tài)和輿論導(dǎo)向，是安全播出重中之重的環(huán)節(jié)。針對媒資內(nèi)容的安全播出措施主要包括播出前審核和播出過程中監(jiān)聽監(jiān)看。目前，對媒資內(nèi)容的審核由審核專家采取人工方式進(jìn)行，人工審核的特點(diǎn)是審核效率有限。播出過程中對媒資內(nèi)容進(jìn)行監(jiān)聽監(jiān)看以人工方式為主，但這種方式存在明顯不足：第一，對內(nèi)容安全的認(rèn)知取決于人員業(yè)務(wù)素質(zhì)、主客觀判斷等因素，不同人員對同樣內(nèi)容的認(rèn)知結(jié)果存在差異；第二，欄目數(shù)量和點(diǎn)播媒資內(nèi)容日益增多，需要增加具備安全播出業(yè)務(wù)素質(zhì)的人員數(shù)量，相應(yīng)的人力成本也會大幅增加；第三，監(jiān)聽監(jiān)看人員值守期間安播壓力大，精神高度緊張，工作體驗(yàn)不佳，專業(yè)人員流失嚴(yán)重。針對內(nèi)容審核以人工方式為主存在的問題，通過引入AI技術(shù)，基于智能算法，輔助內(nèi)容安全審核，可以大幅度減輕目前內(nèi)容安全審核壓力，提升安全播出的工作效果。3AI技術(shù)發(fā)展現(xiàn)狀近些年，隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，AI技術(shù)得到了高速和深入發(fā)展，很多領(lǐng)域的AI技術(shù)，如人臉識別、圖像識別、語音識別、OCR文字識別、自然語言處理（NaturalLanguageProcessing，NLP）等，已經(jīng)具備成熟的算法，通過大量數(shù)據(jù)的訓(xùn)練和配備強(qiáng)大的運(yùn)算能力，其識別精度和處理速度已經(jīng)能夠滿足實(shí)際應(yīng)用的需求，也在各種場景中逐步得到應(yīng)用。3.1人臉識別人臉識別，基于深度學(xué)習(xí)算法，能夠準(zhǔn)確識別視頻中的人臉信息，提供人臉檢測、人臉1:1比對、人臉1:N識別等能力。人臉識別算法應(yīng)用過程是通過建設(shè)敏感人物人臉庫，基于人臉檢測和1:N識別技術(shù)對流數(shù)據(jù)預(yù)處理層分發(fā)的視頻流數(shù)據(jù)進(jìn)行人臉檢測（找出視頻幀中是否存在人臉）和人臉識別（對于通過人臉檢測找到的人臉，與已有敏感人物人臉庫中的N個(gè)人臉進(jìn)行比對，找出最相似的一張臉或多張臉，并給出相似度排序判斷，從而判別是否有敏感人物出現(xiàn)在節(jié)目中）。3.2圖像識別圖像識別，基于深度學(xué)習(xí)算法及大規(guī)模圖像訓(xùn)練，可以準(zhǔn)確識別圖片的內(nèi)容分類或圖片中包含的物體類別，從而可以審核圖片是否含有色情、暴恐等不健康內(nèi)容或違規(guī)物品。圖像識別算法應(yīng)用過程是通過提取節(jié)目視頻關(guān)鍵幀后，轉(zhuǎn)換為一張張圖片，然后傳送給圖像識別算法，圖像識別算法會給出其屬于色情、暴恐的概率或圖像中出現(xiàn)違規(guī)物品的概率，相關(guān)違規(guī)分類或違規(guī)物品需要提前定義并進(jìn)行訓(xùn)練樣本標(biāo)注。3.3語音識別語音識別算法能夠讓計(jì)算機(jī)自動地識別語音中所攜帶的信息?；谏疃葘W(xué)習(xí)的算法，語音識別和處理技術(shù)可以克服傳統(tǒng)語音識別中采用時(shí)間、頻率而導(dǎo)致的不穩(wěn)定問題。語音識別算法應(yīng)用過程先對音頻文件進(jìn)行識別處理，在我國一般要求能夠識別普通話、粵語、英語，并將結(jié)果轉(zhuǎn)換為中英文文本，再由自然語言處理引擎對文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識別?，F(xiàn)在語音處理技術(shù)在秒級實(shí)時(shí)語音識別方面仍然不夠成熟而且支持語言有限制。因此，如果應(yīng)用在直播節(jié)目實(shí)時(shí)監(jiān)管的場景上，語音識別只能作為輔助手段，采用分鐘級延遲；對回放視頻和回放音頻則沒有延遲的問題。3.4OCR文字識別對硬字幕的視頻文件，可以進(jìn)行視頻幀提取并轉(zhuǎn)換為一張張圖片，然后借助OCR文字識別技術(shù)進(jìn)行處理，獲得視頻幀中出現(xiàn)的字幕文本，再由NLP引擎對文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識別。3.5自然語言處理自然語言處理算法是AI智能深度學(xué)習(xí)的一個(gè)重要應(yīng)用領(lǐng)域，經(jīng)過幾十年的發(fā)展，基于統(tǒng)計(jì)的模型已經(jīng)成為NLP的主流，同時(shí)人工神經(jīng)網(wǎng)絡(luò)在NLP領(lǐng)域也受到了足夠重視。自然語言處理算法提供包括分詞、命名實(shí)體識別、文本分類等功能。在我國，通過自然語言處理算法對視頻字幕和音頻轉(zhuǎn)換后的文本以及節(jié)目網(wǎng)站的其他文本進(jìn)行敏感或違規(guī)內(nèi)容識別，能支持中英文文本識別。4AI在安全播出領(lǐng)域應(yīng)用需求分析4.1AI在節(jié)目審核中的應(yīng)用功能上，AI技術(shù)已支持圖像、文本、視頻、音頻的識別與理解，可提供內(nèi)容敏感、淫穢色情、恐怖暴力及不良圖文信息鑒別過濾等多個(gè)維度的審核能力。但在實(shí)際情況中，媒資內(nèi)容中往往存在語意不清、界限模糊的內(nèi)容，需要通過專家的人工審核來鑒別，而專家的政治素質(zhì)和業(yè)務(wù)素質(zhì)是審核鑒別的關(guān)鍵因素。在廣播電視行業(yè)，對媒資內(nèi)容的審核能力，對不良信息的鑒別能力是需要經(jīng)歷長期培養(yǎng)和實(shí)踐方可形成的；同時(shí)，審核專家還必須實(shí)時(shí)更新業(yè)務(wù)知識方可跟上安全播出的需求發(fā)展。因此，在較長時(shí)期內(nèi)，AI審核無法代替人工審核，媒資內(nèi)容審核必須依靠有經(jīng)驗(yàn)的審核專家。AI系統(tǒng)對于較確定條件下的情景具有快速判斷和處理的能力，可將AI應(yīng)用于對媒資內(nèi)容的初步審核環(huán)節(jié)，利用AI審核鑒別和過濾出媒資中明顯違規(guī)的有害內(nèi)容并提供視頻標(biāo)簽，在此基礎(chǔ)上進(jìn)行專家人工二次審核。在待審核節(jié)目數(shù)量較多的情況下，采取這種審核模式，AI可以在較大程度上提升專家審核速度和效率。4.2AI在監(jiān)聽監(jiān)看中的應(yīng)用AI技術(shù)可以應(yīng)用于電視節(jié)目的媒資內(nèi)容監(jiān)聽監(jiān)看環(huán)節(jié)，在電視節(jié)目播出方面發(fā)揮安全播出輔助作用。從時(shí)效性分類，電視臺播出的節(jié)目有兩種類型：非直播節(jié)目和直播節(jié)目。對于電視臺而言，非直播類節(jié)目在節(jié)目播出編排之前對其內(nèi)容進(jìn)行審核；直播類節(jié)目，尤其是體育賽事、大型國內(nèi)和國際活動的現(xiàn)場直播，則無法實(shí)現(xiàn)播出前審核，只能采取在直播過程中對其內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)聽監(jiān)看的措施并疊加延時(shí)機(jī)制。大型活動現(xiàn)場具有人群聚集的特點(diǎn)，現(xiàn)場情景不可控風(fēng)險(xiǎn)高，其直播畫面信息量大、背景環(huán)境復(fù)雜，人工監(jiān)聽監(jiān)看難以全面應(yīng)對。這種情況下，可以利用AI技術(shù)輔助人工對現(xiàn)場直播內(nèi)容進(jìn)行監(jiān)聽監(jiān)看。具體來說，可以利用AI圖像識別技術(shù)，對現(xiàn)場直播畫面中的人臉、場景和文字信息進(jìn)行識別提取，快速判斷是否含有敏感信息。此外，可以利用AI語音識別技術(shù)和自然語言處理技術(shù)對現(xiàn)場的語音進(jìn)行識別分析，并進(jìn)行敏感信息檢索過濾。境外頻道由于涉及的語言種類多，對其節(jié)目內(nèi)容進(jìn)行監(jiān)聽監(jiān)看的難度非常大。隨著支持的語言種類不斷豐富，可以利用AI語種識別和語音識別技術(shù)來輔助人工在境外頻道監(jiān)聽監(jiān)看中發(fā)揮積極作用。5AI輔助安全播出技術(shù)部署方案AI輔助安全播出技術(shù)部署方案示意如圖1所示，按功能模塊分為AI平臺、審核平臺、監(jiān)聽監(jiān)看平臺、播控平臺和安全播出知識庫。AI平臺對接收到的音視頻數(shù)據(jù)進(jìn)行智能分析，提取其特征并與安全播出知識庫比對，發(fā)現(xiàn)問題會返回結(jié)果給審核平臺和監(jiān)看監(jiān)聽平臺；安全播出知識庫存放違反安全播出的一些敏感信息特征；審核平臺主要針對播出內(nèi)容進(jìn)行合規(guī)性審核；監(jiān)聽監(jiān)看平臺主要對直播播出節(jié)目內(nèi)容再次審核，確保播出節(jié)目萬無一失；播控平臺負(fù)責(zé)電視傳輸及切換。按實(shí)現(xiàn)內(nèi)容分為AI輔助內(nèi)容審核和AI輔助監(jiān)聽監(jiān)看兩個(gè)部分。在AI輔助內(nèi)容審核中，審核人員主要是利用AI平臺對內(nèi)容進(jìn)行初審，通過人臉識別可發(fā)現(xiàn)敏感問題內(nèi)容，場景識別可發(fā)現(xiàn)淫穢色情和恐怖暴力等明顯問題內(nèi)容，通過語音轉(zhuǎn)文本后進(jìn)行關(guān)鍵詞識別以及語義分析可發(fā)現(xiàn)音頻中的問題內(nèi)容。在AI輔助監(jiān)聽監(jiān)看中，通過監(jiān)聽監(jiān)看平臺統(tǒng)一實(shí)施對電視頻道的監(jiān)測，由監(jiān)聽監(jiān)看平臺調(diào)度AI平臺實(shí)現(xiàn)輔助監(jiān)聽監(jiān)看，具體工作流程如下。（1）播控平臺傳送電視頻道信號到監(jiān)聽監(jiān)看平臺。（2）監(jiān)聽監(jiān)看平臺將節(jié)目數(shù)據(jù)傳送給AI平臺。（3）AI平臺對節(jié)目數(shù)據(jù)進(jìn)行識別，根據(jù)安全播出知識庫進(jìn)行推理和判斷，并將結(jié)果返回給監(jiān)聽監(jiān)看平臺。（4）工作人員從監(jiān)聽監(jiān)看平臺獲取AI平臺運(yùn)行結(jié)果，用于輔助監(jiān)聽監(jiān)看。6AI引發(fā)的變化可以預(yù)見，安全播出領(lǐng)域引入AI技術(shù)后，可引發(fā)如下變化。6.1監(jiān)聽監(jiān)看工作模式的調(diào)整引入AI技術(shù)輔助安全播出工作后，一方面，由少數(shù)專業(yè)技術(shù)人員對安全播出知識庫進(jìn)行日常更新和維護(hù)，將內(nèi)容安全審核相關(guān)知識和專家經(jīng)驗(yàn)實(shí)時(shí)轉(zhuǎn)化為符合規(guī)則的電子數(shù)據(jù)；另一方面，在AI輔助下，更多的推理判斷由AI執(zhí)行，監(jiān)聽監(jiān)看工作人員則可將工作重心放在應(yīng)急操作及技術(shù)處置上。6.2降低人工監(jiān)聽監(jiān)看難度和復(fù)雜度AI技術(shù)基于安全播出知識庫對節(jié)目內(nèi)容安全性提供輔助推理判斷，一方面，全體監(jiān)聽監(jiān)看人員能夠共享知識庫中的知識和專家經(jīng)驗(yàn)，減小因人員業(yè)務(wù)素質(zhì)和主觀判斷能力不同而造成的工作結(jié)果差異；另一方面，AI平臺強(qiáng)大的運(yùn)算能力使得監(jiān)聽監(jiān)看更加全面和細(xì)節(jié)化。AI能夠大大降低監(jiān)聽監(jiān)看人員對內(nèi)容安全進(jìn)行判斷的難度和復(fù)雜度，提升安全播出工作整體效果。6.3減輕安播人員值守期間壓力AI技術(shù)在起到內(nèi)容安全審核輔助作用的同時(shí)提高了安播工作的整體效果，減輕了安播人員的審核和監(jiān)聽監(jiān)看工作精神壓力，提升了工作體驗(yàn)，有利于留住業(yè)務(wù)人才，培養(yǎng)專業(yè)安播團(tuán)隊(duì)。7結(jié)語為更好地將AI應(yīng)用于安全播出領(lǐng)域，本文提出如下建議供參考：一是出于安全播出工作重要性，建立AI行業(yè)能力平臺，以滿足利用AI輔助安全播出工作在安全性和運(yùn)算能力方面的實(shí)際需求；二是建立安全播出行業(yè)專家知識庫，以滿足監(jiān)聽監(jiān)看從業(yè)人員對不斷更新的安全播出相關(guān)知識和專家經(jīng)驗(yàn)的實(shí)際需求?；ヂ?lián)網(wǎng)技術(shù)、通信技術(shù)和編碼技術(shù)的發(fā)展，使得視頻以高清、超高清、AR/VR等多形式進(jìn)行高質(zhì)量呈現(xiàn)，視頻的信息量以幾何級數(shù)暴漲。隨著AI技術(shù)和運(yùn)算能力持續(xù)發(fā)展與提升，AI必將不斷賦能廣播電視行業(yè)，目前媒體內(nèi)容安全審核以“人工為主、AI為輔”人機(jī)結(jié)合方式將會發(fā)展到以“AI為主、人工為輔”的機(jī)人智慧方式，進(jìn)一步加強(qiáng)各類情況、各種方式的大數(shù)據(jù)分析、智能處理和機(jī)器學(xué)習(xí)能力，進(jìn)一步優(yōu)化提升AI對內(nèi)容識別、報(bào)警和處理的精確度與可信度，最大程度降低監(jiān)播人員的干預(yù)度，實(shí)現(xiàn)內(nèi)容安全管控的L5級“自動駕駛”，在安全播出領(lǐng)域發(fā)揮更重要的作用。參考文獻(xiàn)[1]王文敏.人工智能原理[M].北京:高等教育出版社,2019.[2]劉樹春,賀盼,馬建奇,等.深度實(shí)踐OCR：基于深度學(xué)習(xí)的文字識別[M].北京:機(jī)械工業(yè)出版社,20