《人工智能驅(qū)動的校園欺凌防控管理技術(shù)規(guī)范》

ICS35.240.99

CCSL67

團體標準

T/CIXXXX—XXXX

人工智能驅(qū)動的校園欺凌防控管理技術(shù)規(guī)

范

Technicalspecificationsforpreventionandcontrolofbullyinginschoolsdrivenby

artificialintelligence

（征求意見稿）

在提交反饋意見時，請將您知道的相關(guān)專利連同支持性文件一并附上。

XXXX-XX-XX發(fā)布XXXX-XX-XX實施

中國國際科技促進會發(fā)布

T/CIXXXX—XXXX

人工智能驅(qū)動的校園欺凌防控管理技術(shù)規(guī)范

1范圍

本文件給出了基于人工智能的校園防霸凌技術(shù)規(guī)范，主要應(yīng)用于校園防霸凌大模型，規(guī)定了數(shù)據(jù)采

樣、預(yù)處理、多模態(tài)大模型流程邏輯、行為識別、語音分析、隱私保護、事件上報、事件處理、自動預(yù)

警、事件追溯、因果推斷等指標的要求。

本文件適用于基于人工智能的校園防霸凌技術(shù)規(guī)范，主要應(yīng)用于校園防霸凌大模型，適合以人工智

能技術(shù)為基礎(chǔ)的校園防霸凌系統(tǒng)。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，

僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本

文件。

GB/T5271.34-2006信息技術(shù)詞匯第34部分:人工智能神經(jīng)網(wǎng)絡(luò)

GB/T35119-2017產(chǎn)品生命周期數(shù)據(jù)管理規(guī)范

GB/T41867-2022信息技術(shù)人工智能術(shù)語

3術(shù)語和定義

GB/T5271.34-2006，GB/T35119-2017，GB/T41867-2022界定的以及下列術(shù)語和定義適用于本文

件。

鄰接矩陣adjacentmatrix

用以表示交通圖數(shù)據(jù)中不同節(jié)點的空間相關(guān)性權(quán)重的二維正方形矩陣。

無監(jiān)督學(xué)習(xí)unsupervisedlearning

在沒有給定事先標記過的訓(xùn)練數(shù)據(jù)情況下，自動對輸入的數(shù)據(jù)進行分類。

注意力機制attentionmechanism

通過額外的神經(jīng)網(wǎng)絡(luò)參數(shù)控制網(wǎng)絡(luò)關(guān)注點的一種手段。

過擬合overfitting

模型對訓(xùn)練數(shù)據(jù)過于精確地匹配，導(dǎo)致無法很好地適應(yīng)訓(xùn)練集之外的其他數(shù)據(jù)。

欠擬合underfitting

模型沒有很好地識別到數(shù)據(jù)的特征和規(guī)律，導(dǎo)致無法很好地擬合數(shù)據(jù)。

4縮略語

下列縮略語適用于本文件。

SVM:支持向量機(SupportVectorMachine)

PCA:主成分分析(PrincipalComponentsAnalysis)

CNN:卷積神經(jīng)網(wǎng)絡(luò)(ConvolutionalNeuralNetwork)

GCN:圖卷積網(wǎng)絡(luò)(GraphConvolutionalNetwork)

RNN:循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork)

LSTM:長短期記憶網(wǎng)絡(luò)(LongShortTermMemory)

1

T/CIXXXX—XXXX

GMM:高斯混合模型(GaussianMixtureModel)

MAE:平均絕對誤差(MeanAbsoluteError)

MSE:均方誤差(MeanSquaredError)

RMSE:均方根誤差(RootMeanSquaredError)

MAPE:平均絕對百分比誤差(MeanAbsolutePercentageError)

5校園欺凌防控管理系統(tǒng)架構(gòu)體系

人工智能驅(qū)動的校園防霸凌技術(shù)系統(tǒng)架構(gòu)中可以包含數(shù)據(jù)采樣層、數(shù)據(jù)處理層、校園防控大模型層

和應(yīng)用場景層，具體見圖1。

在采樣層可以利用攝像頭，語音傳感器及校園地圖信息收集視頻音頻等非結(jié)構(gòu)化數(shù)據(jù)，利用問卷、

校園數(shù)據(jù)庫收集學(xué)生的心理健康數(shù)據(jù)、教學(xué)活動數(shù)據(jù)等結(jié)構(gòu)化數(shù)據(jù)。在數(shù)據(jù)處理層，利用數(shù)據(jù)編碼、數(shù)

據(jù)聚合、數(shù)據(jù)清洗等方法進行數(shù)據(jù)預(yù)處理。最后在算法層通過圖像識別、知識圖譜、強化學(xué)習(xí)、深度學(xué)

習(xí)等人工智能算法實現(xiàn)欺凌行為識別，情緒分析等實際的場景應(yīng)用。

圖1人工智能驅(qū)動的校園欺凌防控管理技術(shù)架構(gòu)體系

6多模態(tài)數(shù)據(jù)集成融合分析要求

數(shù)據(jù)來源

公開數(shù)據(jù)：包含校園內(nèi)的監(jiān)控錄像，錄音，紅外傳感數(shù)據(jù)，雷達采集數(shù)據(jù)等公開數(shù)據(jù)用于模型的訓(xùn)

練，訓(xùn)練大模型判斷霸凌發(fā)生的能力。

真實校園采集數(shù)據(jù)：校園內(nèi)的實時監(jiān)控錄像，錄音，紅外傳感等數(shù)據(jù)，作為大模型的數(shù)據(jù)輸入，同

時也用于修正大模型能力。

學(xué)生個人信息：通過學(xué)校自身數(shù)據(jù)庫及問卷調(diào)查的方式，獲取學(xué)生的成績，年齡，性別，照片，性

格趨向，個人關(guān)系。輔助機器對霸凌事件的判斷以及識別出霸凌及被霸凌人員。

2

T/CIXXXX—XXXX

校園信息：通過學(xué)校自身數(shù)據(jù)庫獲取班級信息，年級信息，作息安排，輔助機器對霸凌事件的判斷

以及按類存儲數(shù)據(jù)。

6.2數(shù)據(jù)處理

6.2.1數(shù)據(jù)清洗

數(shù)據(jù)清洗主要是為了處理噪聲、異常值、缺失值和重復(fù)值，達成讓模型更加精確的目的，例如：

a)語音識別可能會檢測到噪聲過大的數(shù)據(jù)，可以使用信噪比估計算法（如WADA-SNR）來去除信

噪比很低的音頻；

b)對于圖像數(shù)據(jù)，可以去除質(zhì)量較低或沒有有效信息的圖像，例如模糊、全黑的圖像；

c)文本數(shù)據(jù)可能會出現(xiàn)重復(fù)或缺失數(shù)據(jù)，需要將重復(fù)的數(shù)據(jù)去除，對缺失的數(shù)據(jù)進行填充處理，

可利用固定值、均值、中位數(shù)的填充方法，并進行分詞、停用詞去除、詞干化等處理；

d)對于傳感器和紅外數(shù)據(jù)，需要對因機器故障檢測到的異常數(shù)據(jù)使用異常檢測算法進行修正處

理。

6.2.2數(shù)據(jù)標注

針對不同分類的識別任務(wù)，需要根據(jù)數(shù)據(jù)的不同類型或不同類別進行標注處理，用于算法模型的訓(xùn)

練，目前常用的標注類別有文本標注、語音標注、圖像標注、3D點云標注等。

6.3數(shù)據(jù)分析

6.3.1特征提取

特征提取主要用于減少數(shù)據(jù)維度，提取或整理出有效的特征供后續(xù)使用，針對不同類型的數(shù)據(jù)，可

以利用不同的特征提取技術(shù)：

a)文本數(shù)據(jù)：文本數(shù)據(jù)固有的非結(jié)構(gòu)化(沒有格式整齊的數(shù)據(jù)列)和嘈雜的特性使得機器學(xué)習(xí)方法

更難直接處理原始文本數(shù)據(jù)，因此針對文本數(shù)據(jù)，可以使用詞袋模型、TF-IDF、Word2Vec、BERT、

N-Grams袋等技術(shù)進行提取特征；

b)圖像數(shù)據(jù)：圖像識別實際上是一個分類的過程，因此選取的特征不僅要能夠很好地描述圖像，

更重要的是還要能夠很好地區(qū)分不同類別的圖像。常見圖像特征提取的算法和模型有：SIFT、

ORB、HOG、LBP、HAAR、DeepLearning（如CNN）等；

c)音頻數(shù)據(jù)：要對語音信號進行分析，首先要分析并提取出可表示該語音本質(zhì)的特征參數(shù)。常見

的聲學(xué)特征有：LPC、PLP、MFCC、Fbank、語譜圖等，提取不同的特征需要不同的提取方法，

常見的音頻數(shù)據(jù)特征提取模型有：CNN、RNN、LSTM、VAE等。

6.3.2數(shù)據(jù)融合

融合不同尺度的特征是提高模型性能的一個重要手段，多模態(tài)特征融合的方法分為四種：特征級融

合、決策級融合、混合級融合和模型級融合。其中特征級融合也稱為早期融合，是多模態(tài)識別系統(tǒng)最常

用的策略，它表示在提取后立即從不同模態(tài)提取的特征連接成單個高維特征向量的方法。

6.3.2.1特征拼接（Concatenation）

這是最直接和簡單的特征融合方法。簡單地將不同模態(tài)的特征向量端到端拼接在一起，形成一個長

向量。這種方法保留了每種模態(tài)的原始特征，但可能會增加模型的復(fù)雜性，且無法捕捉捕捉到不同模態(tài)

之間的交互和關(guān)聯(lián)。

6.3.2.2特征相加（Summation）

將不同模態(tài)的特征向量相加，得到一個新的特征向量。這種方法需要所有特征向量的維度相同。相

加可以減小模型的復(fù)雜性，但可能會丟失一些特征信息。假設(shè)有兩個特征圖A和B，它們的尺寸相同。

特征圖相加后的結(jié)果為A+B。

6.3.2.3特征相乘（Multiplication）

將不同模態(tài)的特征向量相乘，得到一個新的特征向量。這種方法也需要所有特征向量的維度相同。

3

T/CIXXXX—XXXX

乘法可以捕捉不同模態(tài)之間的交互特性，但計算復(fù)雜度較高。

6.3.2.4注意力機制（Attention）

注意力機制可以為每種模態(tài)的特征分配一個權(quán)重，然后將加權(quán)的特征進行融合。通過訓(xùn)練，注意力

機制可以學(xué)習(xí)到每種模態(tài)在不同任務(wù)中的重要性。該方法的計算復(fù)雜度高，同時需要大量訓(xùn)練數(shù)據(jù)。

6.3.2.5自編碼器（Autoencoder）

自編碼器可以將多模態(tài)的原始特征映射到一個共享的隱藏空間，然后從隱藏空間中解碼得到融合

特征。這種方法可以捕捉不同模態(tài)之間的共享信息，但訓(xùn)練過程可能較復(fù)雜。

6.3.2.6遞歸神經(jīng)網(wǎng)絡(luò)（RNN）或長短期記憶網(wǎng)絡(luò)（LTSM）

當(dāng)數(shù)據(jù)具有時間序列性質(zhì)時，可以使用RNN或LSTM進行特征融合。這些模型可以捕捉不同模態(tài)

特征在時間上的動態(tài)變化和相互關(guān)系。

7算法構(gòu)建要求以及評估指標

技術(shù)

7.1.1圖像識別技術(shù)

7.1.1.1SVM支持向量機

支持向量機是一種廣泛應(yīng)用于分類和回歸分析的機器學(xué)習(xí)模型，在解決小樣本、非線性及高維模式

識別中表現(xiàn)出許多特有的優(yōu)勢，并能夠推廣應(yīng)用到函數(shù)擬合等其他機器學(xué)習(xí)問題中。SVM的主要思想是

在特征空間中找到一個最優(yōu)的超平面，使得正負樣本間的距離（即間隔）最大化。需要注意的是，SVM

在應(yīng)用時需要對圖像進行適當(dāng)?shù)念A(yù)處理，例如灰度化、歸一化等，以提高模型的性能。另外，對于復(fù)雜

的圖像分類問題，可能需要使用核函數(shù)將數(shù)據(jù)映射到高維空間中，使其在高維空間中線性可分。對于非

平衡數(shù)據(jù)集，可能需要使用類別權(quán)重或者采樣方法來處理類別不平衡問題。

SVM的基本型決策函數(shù)為：

f(??)=???????+?....................................(1)

式中：

??--輸入的特征向量

????--超平面的法向量

T--表示轉(zhuǎn)置

b--截距

SVM通過求解以下優(yōu)化問題來找到最優(yōu)的????和b：

1

min‖????‖2.....................................(2)

????,?2

?

s.t.yi(??????????+?)≥1.................................(3)

式中：

‖????‖2--????的二階范數(shù)，即模長平方

yi--第i個樣本的類別標簽

??????--第i個樣本的特征向量

在校園欺凌防控上，SVM可以應(yīng)用在圖像識別和人臉識別等領(lǐng)域。例如，可以通過攝像頭捕捉校園

內(nèi)的實時圖像，然后使用SVM進行圖像分類，如果識別出可能存在的欺凌行為，就可以立即進行干預(yù)。

在人臉識別方面，可以通過SVM識別出涉及欺凌事件的個體，提供依據(jù)進行后續(xù)處理。

7.1.1.2聚類算法

聚類算法是一種無監(jiān)督學(xué)習(xí)技術(shù)，根據(jù)樣本之間的相似性，將樣本劃分到不同的類別中，形成一個

“類”或“簇”。對于不同的相似度計算方法，會得到不同的聚類結(jié)果。在圖像識別中，聚類算法通常

被用于圖像分割、對象識別等任務(wù)。K-means聚類算法是最常用的聚類方法之一，K為用戶指定的簇個

數(shù),每一個簇通過其質(zhì)心（centroid）,即簇中所有點的中心來描述。其步驟如下：

4

T/CIXXXX—XXXX

a)隨機設(shè)置K個特征空間內(nèi)的點作為初始的聚類中心；

b)對于其他每個點，計算到K個中心的距離，未知的點選擇最近的一個聚類中心點作為標記類別；

c)接著對著標記的聚類中心之后，重新計算出每個聚類所有數(shù)據(jù)點的均值，作為新的中心；

d)重復(fù)第2步和第3步，直到中心的變化很小或者達到預(yù)定的迭代次數(shù)。

在該過程中，使用距離函數(shù)來計算數(shù)據(jù)點與中心的距離。在歐幾里得空間中，距離函數(shù)的表達式為：

222n2

d(x,y)=√(x1?y1)+(x2?y2)+?+(xn?yn)=√∑i=1(xi?yi)............(4)

其中：

xi、yi--第i維度的x、y軸坐標

在校園欺凌防控中，在收集到關(guān)于校園欺凌的報告或者投訴后，可以使用聚類算法將這些事件按照

其性質(zhì)、嚴重程度、涉及人員等因素分類，幫助學(xué)校和教育管理部門更有效地處理和預(yù)防欺凌事件；也

可以通過對歷史欺凌事件進行聚類，發(fā)現(xiàn)某些特定的模式或者規(guī)律，例如某些特定情境下更容易發(fā)生欺

凌，或者某些類型的學(xué)生更容易成為欺凌的受害者，這些信息可以用于構(gòu)建風(fēng)險預(yù)警模型，對可能發(fā)生

欺凌的情況進行提前預(yù)警。

7.1.1.3PCA主成分分析

PCA是一種常用的數(shù)據(jù)降維算法，它通過計算數(shù)據(jù)的協(xié)方差矩陣并進行特征值分析，找到可以最大

限度表示原始數(shù)據(jù)分布的主成分（方向），同時盡可能保留原始數(shù)據(jù)的結(jié)構(gòu)和信息，即通過線性變換將

高維數(shù)據(jù)映射到低維空間，使得在保留盡可能多信息的前提下，數(shù)據(jù)的維數(shù)得以降低。其方法如下：

a)將m條n維原始數(shù)據(jù)組成n行m列的矩陣；

b)將X的每一行減去對應(yīng)行的均值，即零均值化，得到矩陣X；

c)求出協(xié)方差矩陣C=XXT/m；

d)求出協(xié)方差矩陣的特征值及對應(yīng)的特征向量；

e)將特征向量按對應(yīng)特征值從大到小、自上而下排列成矩陣，取前k行組成矩陣P；

f)降維后的數(shù)據(jù)矩陣為Y=PX。

在校園欺凌防控中，對于校園監(jiān)控視頻，可以提取出每一幀圖像，使用PCA進行降維，將圖像數(shù)據(jù)

轉(zhuǎn)換成一種更容易處理和分析的形式。在降維后的空間中，可以使用其他機器學(xué)習(xí)算法（如SVM、神經(jīng)

網(wǎng)絡(luò)等）進行進一步的分析，識別出可能的欺凌行為。

7.1.1.4CNN卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是一種深度學(xué)習(xí)模型，主要用于處理和分析具有網(wǎng)格狀結(jié)構(gòu)數(shù)據(jù)，如圖像和視頻。一

般的卷積神經(jīng)網(wǎng)絡(luò)包含輸入層、卷積層、激活層、池化層和全連接層。卷積層通常用作對輸入層輸入數(shù)

據(jù)進行特征提取，通過卷積核矩陣對原始數(shù)據(jù)中隱含關(guān)聯(lián)性的一種抽象。核心卷積操作的公式如下:

(???)(?,?)=∑??∑???(?,?)?(???,???)........................(5)

其中：

?、?--輸入圖像、卷積核

?、?--卷積核寬度和高度

(x,y)--輸出特征映射中像素點的坐標

激活層對卷積層抽取的特征進行激活，由于卷積操作是由輸入矩陣與卷積核矩陣進行相乘的過程，

是線性變化關(guān)系，需要激活層對其進行非線性的映射。池化層又稱為降采樣層，對感受域內(nèi)的特征進行

篩選，提取區(qū)域內(nèi)最具代表性的特征，降低輸出特征尺度，進而減少模型所需要的參數(shù)量。全連接層對

卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)提取到的特征進行匯總，將多維的特征輸入映射為二維的特征輸出。

神經(jīng)元是CNN的基本處理單元，一般是多輸入單輸出的單元，輸入與輸出之間的對應(yīng)關(guān)系可用下

式表示，具體形式如下：

?

yj=f(bj+∑??=1(xi×wij)?)..............................................................(6)

其中：

xi--輸入信號

wij--輸入信號xi與神經(jīng)元ｊ連接的權(quán)重值

bj--神經(jīng)元的內(nèi)部狀態(tài)即偏置值

yj--神經(jīng)元的輸出

5

T/CIXXXX—XXXX

在校園欺凌防控中，CNN可以用于校園視頻監(jiān)控分析，識別可能存在的欺凌行為，及時報警或通知

相關(guān)人員，防止欺凌事件的發(fā)生或惡化；也可以用于情感分析，通過分析學(xué)生的面部表情、語音語調(diào)、

心率血壓等生理信號，識別出可能受到欺凌或有欺凌傾向的學(xué)生，及時提供心理咨詢或干預(yù)，防止欺凌

對學(xué)生的身心健康造成損害。

7.1.1.5GCN圖卷積網(wǎng)絡(luò)

GCN中的Graph是指數(shù)學(xué)（圖論）中的用頂點和邊建立相應(yīng)關(guān)系的拓撲圖。圖網(wǎng)絡(luò)的核心思想就是

依據(jù)圖結(jié)構(gòu)的空間依賴關(guān)系來表征現(xiàn)實世界中真實的特征之間的相互作用關(guān)系，通過對節(jié)點特征進行

聚合生成新的節(jié)點特征表示用于后續(xù)工作。假設(shè)有一個圖結(jié)構(gòu)，圖中有N個節(jié)點（node），每個節(jié)點都

有自己的特征，設(shè)這些節(jié)點的特征組成一個N×D維的矩陣X，各個節(jié)點之間的關(guān)系也會形成一個N×N

維的矩陣A，稱為鄰接矩陣（adjacencymatrix），X和A即為模型的輸入。GCN也是一個神經(jīng)網(wǎng)絡(luò)層，，

其計算就是不斷考慮鄰居及自身信息的一個迭代過程，每進行一次迭代就是一次特征重組，下一層的特

征為上一層特征的圖卷積：

11

(?+1)????

?=?(??2????2??)..............................(7)

其中：

D--度矩陣，即每個節(jié)點的鄰居數(shù)量的對角矩陣，D=∑jAij

??--第l層的權(quán)重

??、??+1--第l層、第l+1層的節(jié)點特征

??=?+?,??=?+?

σ--非線性激活函數(shù)

在校園欺凌防控中，GCN可用于圖像分割、對象識別、場景理解等。將每個像素點視作圖中的一個

節(jié)點，像素之間的相鄰關(guān)系形成圖的邊，GCN可以有效地捕獲這種像素之間的關(guān)系，從而進行更準確的

圖像分割。對象識別（如姿態(tài)估計）可以被看作是圖結(jié)構(gòu)預(yù)測問題，在這種情況下，GCN可以幫助提取

對象各部分之間的結(jié)構(gòu)信息，從而提高識別的精度。在復(fù)雜場景理解任務(wù)中，物體之間的關(guān)系可以被建

模為圖結(jié)構(gòu)，如物體的相對位置、共現(xiàn)關(guān)系等，GCN可以用于捕獲并利用這些結(jié)構(gòu)信息進行更準確的場

景理解。

7.1.2語音識別技術(shù)

7.1.2.1Transformer

Transformer是一種使用自注意力機制和位置編碼的神經(jīng)網(wǎng)絡(luò)架構(gòu)，適用于自然語言處理任務(wù)。它

解決了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在處理序列數(shù)據(jù)時的一些限制，能夠處理長距離依賴關(guān)系并具備更好的并行

計算能力。在Transformer中，輸入序列被分別編碼成兩個向量：查詢（query）向量和鍵值對（key-

valuepairs）向量。通過計算查詢向量和鍵值對之間的注意力得分，可以為每個查詢分配與之相關(guān)的

值。另外，Transformer還引入了位置編碼，用于為輸入序列中的每個位置賦予一個相對或絕對位置信

息。位置編碼可以幫助模型理解輸入序列中不同位置的相對距離和順序。其主要公式包括：

自注意力機制：

???

?????????(?,?,?)=???????()?..........................................................(8)

√??

式中：

?--查詢向量

?--鍵向量

?–值向量

??–鍵向量的維度

自注意力機制的目的是計算輸入序列中每個位置對其他位置的注意力分數(shù)，然后用這些分數(shù)對輸

入序列進行加權(quán)求和，得到注意力輸出。

在校園欺凌防控中，Transformer可以用于深度學(xué)習(xí)和自然語言處理任務(wù)，例如情緒分析，意圖識

別，以及關(guān)鍵詞提取。例如，通過分析語音內(nèi)容中的抱怨、威脅、侮辱等關(guān)鍵詞，可以偵測學(xué)生可能的

欺凌行為。同時，Transformer也可以用于理解涉及多個學(xué)生的對話，以便捕獲更復(fù)雜的欺凌行為模式。

6

T/CIXXXX—XXXX

7.1.2.2RNN循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)（RecurrentNeuralNetwork，RNN）是一類用于處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)。與前饋

神經(jīng)網(wǎng)絡(luò)（如全連接網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)）不同，循環(huán)神經(jīng)網(wǎng)絡(luò)在模型結(jié)構(gòu)中引入了循環(huán)，使得網(wǎng)絡(luò)能

夠處理長度可變的序列輸入，并保持對序列中過去信息的記憶。盡管循環(huán)神經(jīng)網(wǎng)絡(luò)理論上能夠處理任意

長度的序列，但在實踐中，它們常常會遇到長期依賴問題——模型難以學(xué)習(xí)到輸入序列中距離當(dāng)前時間

步較遠的信息。其主要公式為：

??=σ(??????1+?????+??).............................(9)

??=?????+??..................................(10)

式中：

??–時刻t的隱藏狀態(tài)

??–時刻t的輸入

??–時刻t的輸出

?–權(quán)重矩陣

?–偏置

?–激活函數(shù)，通常為tanh或sigmoid

在校園欺凌防控中，RNN可以被應(yīng)用于多種語音分析任務(wù)，包括語音識別、語音生成和情緒分析。

例如，RNN可以用來分析學(xué)生的語音數(shù)據(jù)，捕獲他們的語氣變化、情緒狀態(tài)、語言習(xí)慣等，以識別可能

的欺凌行為。RNNs也可以用來分析學(xué)生之間的對話動態(tài)，以識別是否存在欺凌的模式。

7.1.2.3LSTM長短期記憶網(wǎng)絡(luò)

LSTM是RNN的一種變體，它通過引入門機制解決了RNN處理長序列時的梯度消失問題。LSTM添加

了三個門（輸入門、遺忘門和輸出門）以及一個單元狀態(tài)，從而可以更好地記憶和遺忘信息。其主要公

式為：

??=σ(???[???1,??]+??)..............................(11)

??=σ(????[???1,??]+???)..............................(12)

???=????(???[???1,??]+??)............................(13)

??=??????1+??????................................(14)

??=σ(???[???1,??]+??)..............................(15)

??=???????(??).................................(16)

式中：

??–時刻t的遺忘門

??–時刻t的輸入門

??–時刻t的輸出門

??–時刻t的單元狀態(tài)

???–時刻t的候選單元狀態(tài)

??–時刻t的隱藏狀態(tài)

??–時刻t的輸入

?–權(quán)重矩陣

?–偏置

?–sigmoid激活函數(shù)

LSTM是一種特殊的RNN，它可以捕獲長期依賴關(guān)系，這對于理解和分析長時間段的語音數(shù)據(jù)非常有

用。在校園欺凌防控中，LSTM可以用于持續(xù)監(jiān)測和分析學(xué)生的語音數(shù)據(jù)。例如，通過長期跟蹤學(xué)生的

語音模式變化，能夠發(fā)現(xiàn)他們的情緒變化、語言習(xí)慣的改變等可能的欺凌跡象。相比于RNN，LSTM還可

以用于理解復(fù)雜的對話，包括多個學(xué)生之間的交互，以便捕獲更復(fù)雜的欺凌行為模式。

7.1.2.4GMM高斯混合模型

GMM是一種概率模型，它假設(shè)數(shù)據(jù)是由多個高斯分布的混合生成的。GMM可以用于聚類，異常檢測，

生成模型等任務(wù)。其主要公式為：

7

T/CIXXXX—XXXX

?

?(?)=Σπ?(?|μ,Σ).............................(17)

?=1???

式中：

K–高斯分布的數(shù)量

π?–第k個高斯分布的系數(shù)

?(?|μ,Σ)–均值為μ，協(xié)方差矩陣為Σ的高斯分布

????

?-觀測數(shù)據(jù)

在校園欺凌防控中，GMM可以用于分析學(xué)生的語音特征，識別異常和離群點。例如，通過對學(xué)生的

語音特征進行聚類，可以幫助識別異常的語音模式，這可能是欺凌行為的一個跡象。此外，GMM還可以

用于異常檢測，以便在發(fā)生欺凌行為時及時引發(fā)警報。

7.1.3大模型

大模型指具有大規(guī)模參數(shù)和復(fù)雜計算結(jié)構(gòu)的機器學(xué)習(xí)模型，通常由深度神經(jīng)網(wǎng)絡(luò)構(gòu)建而成，擁有數(shù)

十億甚至數(shù)千億個參數(shù)。大模型通過訓(xùn)練海量數(shù)據(jù)來學(xué)習(xí)復(fù)雜的模式和特征，具有更強大的泛化能力，

可以對未見過的數(shù)據(jù)做出準確的預(yù)測。因為其出色的表達能力和預(yù)測性能，大模型在各種領(lǐng)域都有廣泛

的應(yīng)用，包括自然語言處理、計算機視覺、語音識別和推薦系統(tǒng)等，可以根據(jù)不同大模型的特點將其應(yīng)

用于防控校園欺凌領(lǐng)域。

例如GPT的文本模型可以用來分析學(xué)生在社交媒體、校園論壇、聊天記錄等文本數(shù)據(jù)中的言論，旨

在發(fā)現(xiàn)潛在的欺凌行為。例如，發(fā)現(xiàn)含有侮辱、歧視等不當(dāng)言論的文本，或是識別出表現(xiàn)出強烈負面情

緒（如憤怒、恐懼等）的文本，這些可能都是欺凌行為的跡象。

WaveNet和Tacotron的等語音大模型可以用來分析學(xué)生在語音或視頻通話中的言論。比如，可以

識別出含有惡意威脅、侮辱的語音信息。此外，一些先進的語音模型甚至可以分析語調(diào)、語速等元信息，

幫助判斷說話者的情緒狀態(tài)，從而發(fā)現(xiàn)可能的欺凌行為。

視頻大模型，如I3D和TSN，可以用來分析監(jiān)控視頻，識別出可能的欺凌行為。這些模型可以識

別出一些欺凌的典型行為，如推搡、打擊等。此外，通過分析學(xué)生的面部表情、身體語言等，也可以幫

助發(fā)現(xiàn)潛在的欺凌行為。

在實際應(yīng)用中，多模態(tài)的融合模型可能會更有效，將文本、語音、視頻等多種類型的數(shù)據(jù)融合在一

起，提供更全面的信息，從而更準確地識別欺凌行為。

BERTforMultimodalTasks(ViLBERT,VideoBERT,UNITER等)模型將BERT模型擴展到多模態(tài)任

務(wù)上，通過在預(yù)訓(xùn)練階段引入圖像-文本匹配任務(wù)等，模型可以學(xué)習(xí)從不同模態(tài)中提取和融合信息。對

于BERT模型，微調(diào)的過程可以表示為：

P(y|x)=softmax(W?h+b).............................(18)

其中：

x--輸入的文本

y--輸出的標簽（1表示欺凌行為，0表示非欺凌行為）

W、b--微調(diào)過程中需要學(xué)習(xí)的參數(shù)

h--經(jīng)過BERT產(chǎn)生的文本表示

softmax--激活函數(shù)

MultimodalTransformer是一種基于Transformer架構(gòu)的模型，專門用于處理包含文本和圖像的

多模態(tài)數(shù)據(jù)。它分別對文本和圖像應(yīng)用自注意力機制，然后通過互模態(tài)注意力機制將兩種模態(tài)的信息融

合在一起。

SlowFastNetworksforVideoRecognitio是一種用于視頻識別的模型，可以同時處理視頻中的

空間和時間信息，適用于處理視頻和音頻等多模態(tài)數(shù)據(jù)。

評估

7.2.1MAE平均絕對誤差

MAE是一種用于評估預(yù)測模型或者估計方法的常用指標，它計算的是預(yù)測值與實際觀測值之間差的

絕對值的平均。其公式為：

1

???=∑?|???|................................(19)

???=1????

8

T/CIXXXX—XXXX

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實值

MAE的值越小，表示預(yù)測模型的準確性越高。MAE可以用來衡量預(yù)測模型的準確性，得到預(yù)測結(jié)果

和實際情況的偏差程度。

7.2.2MSE均方誤差

MSE是一種常用的評價指標，它計算的是預(yù)測值和實際觀測值之間的差值的平方的平均。其公式

為：

1

???=∑?(???)2...............................................................(20)

???=1????

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實值

與MAE相比，MSE對異常值更敏感，因為它放大了預(yù)測誤差的影響。MSE可以用來更詳細地衡量預(yù)

測模型的準確性，尤其是對模型是否能夠處理異常值的評估。

7.2.3RMSE均方根誤差

RMSE是MSE的平方根。其公式為:

1

????=√∑?(???)2..............................(21)

???=1????

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實值

與MSE相比，RMSE更能反映模型預(yù)測的平均偏差。在欺凌行為預(yù)測中，RMSE可以用來衡量預(yù)測模

型的準確性，尤其是在評估模型預(yù)測的一般性能力上。

7.2.4MAPE平均絕對百分比誤差

MAPE是一種相對誤差指標，計算的是預(yù)測值與實際值之間的絕對誤差的百分比的平均。其公式為：

1??????

????=∑??=1||?100%............................(22)

???

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實值

在欺凌行為預(yù)測中，MAPE可以更好地反映預(yù)測誤差相對于實際值的大小，展現(xiàn)預(yù)測精度的相對性

能。

7.2.5準確率（Accuracy）

準確率是分類問題中最常用的評估指標，計算的是預(yù)測正確的樣本數(shù)占總樣本數(shù)的比例。其公式為：

??+??

????????=..............................(23)

??+??+??+??

式中：

??–真正例（正確預(yù)測的欺凌行為）

??–真負例（正確預(yù)測的非欺凌行為）

??–假正例（錯誤預(yù)測的欺凌行為）

??–假負例（錯誤預(yù)測的非欺凌行為）

在欺凌行為預(yù)測中，準確率可以衡量模型在正確預(yù)測欺凌行為和非欺凌行為方面的能力。

9

T/CIXXXX—XXXX

7.2.6召回率（Recall）

召回率也稱為敏感性，它計算的是預(yù)測為正樣本（即欺凌行為）且實際為正樣本的比例占所有實際

為正樣本的比例。其公式為：

??

??????=...................................(24)

??+??

式中：

??–真正例（正確預(yù)測的欺凌行為）

??–假負例（錯誤預(yù)測的非欺凌行為）

在欺凌行為預(yù)測中，召回率可以衡量模型在找出所有實際欺凌行為方面的能力。如果召回率高，說

明模型能夠捕捉到大部分真實的欺凌行為；反之，如果召回率低，說明模型可能會錯過一些真實的欺凌

行為。

8應(yīng)用場景功能構(gòu)建要求

功能要求

8.1.1基于大模型的校園欺凌防控專家知識系統(tǒng)

針對校園欺凌防控處理過程中的知識檢索功能，可以利用大語言模型技術(shù)構(gòu)建校園欺凌防控專家

知識系統(tǒng)，能夠集成和解析各類文檔數(shù)據(jù)，同時可以準確理解用戶的查詢問題，以及根據(jù)上下文返回精

準的檢索結(jié)果。

系統(tǒng)構(gòu)建過程如下圖2所示，用于構(gòu)建專家知識系統(tǒng)的數(shù)據(jù)可以包含相關(guān)法規(guī)文件、歷史案件信

息、論文專著和學(xué)生信息等相關(guān)文檔數(shù)據(jù)，在數(shù)據(jù)類型上應(yīng)能夠支持pdf、doc、csv等不同格式文檔，

系統(tǒng)可以實現(xiàn)文檔數(shù)據(jù)的向量化編碼，以及能夠在向量數(shù)據(jù)庫中進行存儲。在用戶提問過程中，可以根

據(jù)用戶的問題在向量數(shù)據(jù)庫中進行相似答案的召回，能夠?qū)⒍鄠€召回的相似答案按照大模型的提示詞

模板進行格式組裝。在完成格式組裝后統(tǒng)一輸入到大模型中，大模型可以根據(jù)上下文輸出一個最好的答

案，并注明該答案的文檔出處。整個專家知識系統(tǒng)應(yīng)可以支持和實現(xiàn)相關(guān)法律法規(guī)檢索、處理建議推薦、

心理輔導(dǎo)和智能多輪對話等功能。

圖2基于大模型的校園欺凌防控專家知識系統(tǒng)架構(gòu)

8.1.2行為識別

10

T/CIXXXX—XXXX

在人工智能驅(qū)動的校園欺凌防控管理系統(tǒng)中，可以將監(jiān)控圖像、紅外圖像和傳感波形應(yīng)用于行為識

別中，以實現(xiàn)以下功能：

監(jiān)控圖像分析：利用監(jiān)控攝像頭捕捉到的圖像，通過人工智能算法進行分析，以識別和檢測異常行

為。例如，系統(tǒng)可以檢測學(xué)生之間的沖突、推搡、打架等行為，同時也可以檢測學(xué)生在校園內(nèi)長時間獨

處、聚集、逃離等異常情況。通過實時監(jiān)測和預(yù)警，系統(tǒng)可以及時發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的

措施進行干預(yù)和管理。

紅外圖像分析：利用紅外攝像頭捕捉到的圖像，通過人工智能算法進行分析，以識別和檢測人體發(fā)

出的熱輻射。例如，系統(tǒng)可以檢測學(xué)生在校園內(nèi)長時間滯留、聚集、奔跑等行為，同時也可以檢測學(xué)生

之間的身體接觸和沖突等異常情況。通過實時監(jiān)測和預(yù)警，系統(tǒng)可以及時發(fā)現(xiàn)潛在的霸凌行為，并采取

相應(yīng)的措施進行干預(yù)和管理。

傳感波形分析：利用傳感器捕捉到的波形信號，通過人工智能算法進行分析，以識別和檢測異常聲

音和震動。例如，系統(tǒng)可以檢測學(xué)生在校園內(nèi)長時間叫喊、喧嘩、撞擊等行為，同時也可以檢測學(xué)生之

間的打斗、推搡等異常情況。通過實時監(jiān)測和預(yù)警，系統(tǒng)可以及時發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的

措施進行干預(yù)和管理。

綜上所述，將監(jiān)控圖像、紅外圖像和傳感波形三項行為識別技術(shù)投入到實際應(yīng)用中，可以有效地提

高校園欺凌防控管理系統(tǒng)的準確性和實時性，及時發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的措施進行干預(yù)和

管理。這些技術(shù)還可以提供數(shù)據(jù)記錄和分析功能。學(xué)校可以通過回放監(jiān)控視頻和傳感波形數(shù)據(jù)，了解學(xué)

生在特定時間段內(nèi)的行為和活動情況。這有助于發(fā)現(xiàn)潛在的霸凌行為模式和趨勢，為學(xué)校制定更有效的

預(yù)防和干預(yù)措施提供支持。

8.1.3場景分析

在人工智能驅(qū)動的校園欺凌防控管理系統(tǒng)中，可以通過語音識別、語音轉(zhuǎn)文字、語意識別和情緒識

別、視頻圖像處理等技術(shù)，以實現(xiàn)在不同場景下的分析功能。具體應(yīng)用場景如下：

判斷是否發(fā)生霸凌行為：可以利用語音轉(zhuǎn)文字技術(shù)將監(jiān)控視頻中的音頻轉(zhuǎn)化為文字，以便后續(xù)的分

析和處理。通過語意識別技術(shù)，可以進一步分析文本數(shù)據(jù)，識別出其中的關(guān)鍵詞和主題。這可以幫助學(xué)

?？焖倭私夂驼莆諏W(xué)生在該場景下進行的對話和交流內(nèi)容，發(fā)現(xiàn)涉及霸凌行為的討論和言論，以及學(xué)生

之間的沖突和爭執(zhí)等潛在風(fēng)險，為判斷是否存在霸凌行為提供重要線索。

判斷霸凌行為發(fā)生的時間：可以對視頻或圖像進行處理，通過光線等因素判斷霸凌行為發(fā)生的時間，

利用大模型預(yù)測出霸凌行為高發(fā)的時間點。

判斷霸凌行為發(fā)生的場所：可以利用語音識別技術(shù)提取周圍的環(huán)境音，并結(jié)合語意識別技術(shù)分析得

到霸凌行為發(fā)生的場所，例如：周圍存在較大水流聲時可以初步判斷霸凌行為發(fā)生在廁所、浴室等場所。

還原霸凌行為的現(xiàn)場：可以通過語音識別技術(shù)或視頻圖像處理技術(shù)判斷出參與霸凌的人數(shù)及霸凌

的方式，結(jié)合語音轉(zhuǎn)文字和語意識別技術(shù)，可以通過情緒識別技術(shù)分析文本數(shù)據(jù)中的情感傾向和情緒變

化，這可以幫助學(xué)校判斷學(xué)生在收到霸凌時的情緒狀態(tài)，通過還原現(xiàn)場分析該霸凌行為的嚴重性。

綜上所述，將語音識別、語音轉(zhuǎn)文字、語意識別和情緒識別、視頻圖像處理等技術(shù)應(yīng)用于場景分析

中，可以幫助學(xué)校更快速、準確地發(fā)現(xiàn)潛在的霸凌行為，分析霸凌行為發(fā)生的時間、地點及現(xiàn)場狀況，

及時采取相應(yīng)的措施進行干預(yù)和管理。同時，這些技術(shù)還可以提供數(shù)據(jù)記錄和分析功能，為學(xué)校制定更

有效的預(yù)防和干預(yù)措施提供支持。

8.1.4交互預(yù)警

主動報警：主動報警是指當(dāng)校園欺凌防控管理系統(tǒng)檢測到霸凌事件時，能夠自動觸發(fā)報警機制，及

時通知學(xué)校管理人員或警方進行處理。例如，當(dāng)系統(tǒng)檢測到學(xué)生之間的打架、推搡等異常行為時，可以

自動觸發(fā)報警機制，通過聲音、燈光等方式提醒管理人員或警方前來處理，以保障學(xué)生的安全。

自適應(yīng)預(yù)警系統(tǒng)：在校園欺凌防控管理系統(tǒng)中，可以利用數(shù)據(jù)分析模型進行數(shù)據(jù)收集。根據(jù)歷史數(shù)

據(jù)和行為分析，自動調(diào)整報警敏感度，避免過多的誤報，同時確保真實風(fēng)險不被忽略。例如預(yù)警系統(tǒng)可

以統(tǒng)計出在過去一段時間內(nèi)發(fā)生次數(shù)最多的霸凌行為是哪一種，該行為在一段時間內(nèi)的報警敏感度將

升高，以最大化預(yù)警的效率和準確度。