DB11T 2252-2024信息安全 人臉識(shí)別防對(duì)抗樣本攻擊測(cè)試要求

DB11北京市市場(chǎng)監(jiān)督管理局發(fā)布 唐勝、方凌飛、朱莉莉、孔凡勝、程鳴、孫文琦、丁治國(guó)、周巧霖信息安全人臉識(shí)別防對(duì)抗樣本攻擊測(cè)試要求本文件適用于人臉識(shí)別應(yīng)用或系統(tǒng)的開(kāi)發(fā)者通過(guò)替換特定區(qū)域圖像內(nèi)容構(gòu)造的對(duì)抗樣本，通常表現(xiàn)為特定形狀的根據(jù)被測(cè)試的人臉識(shí)別應(yīng)用或系統(tǒng)在進(jìn)行識(shí)別時(shí)可接受的輸入類(lèi)型，攻擊方式分為兩大類(lèi)，如表1人臉識(shí)別應(yīng)用或系統(tǒng)可通過(guò)輸入人臉圖像數(shù)人臉識(shí)別應(yīng)用或系統(tǒng)可通過(guò)攝像頭采集人臉等方式進(jìn)行多次識(shí)別并統(tǒng)計(jì)人臉識(shí)別結(jié)果，記錄正常人臉樣本的識(shí)別次數(shù)、識(shí)別進(jìn)行呈現(xiàn)攻擊測(cè)試時(shí)，測(cè)試環(huán)境光線可分別模擬室內(nèi)環(huán)境、半室外環(huán)境及室外環(huán)境，應(yīng)在呈現(xiàn)攻擊類(lèi)測(cè)試中，按照GA/T1324采集規(guī)范采集人臉照片，針生成覆蓋眼部及鼻子區(qū)域的對(duì)抗圖像，如圖1b)所示；生成覆蓋眼部鼻子及臉頰區(qū)域的對(duì)抗a)覆蓋眼部的對(duì)抗樣本b)覆蓋眼部及鼻子的對(duì)抗樣本所示，其中圖2f)為覆蓋眼部鼻子及臉頰的摳眼對(duì)抗補(bǔ)丁。針對(duì)于帶有眨眼動(dòng)作配合式活體的a)覆蓋眼部的對(duì)抗補(bǔ)丁c)覆蓋眼部及鼻子的對(duì)抗補(bǔ)丁e）覆蓋眼部鼻子及臉頰的對(duì)抗補(bǔ)丁f)覆b)若應(yīng)用將模擬攻擊者對(duì)抗樣本及模擬攻擊目標(biāo)識(shí)別為同一人，則判定應(yīng)用防對(duì)抗樣本攻擊失b)將基于像素?cái)_動(dòng)的對(duì)抗樣本輸入人b)將基于對(duì)抗補(bǔ)丁的對(duì)抗樣本輸入人a)輸入準(zhǔn)備好的模擬攻擊目標(biāo)圖像后，各測(cè)試組模擬攻擊者應(yīng)依次佩戴上制作好的物理對(duì)抗補(bǔ)b)各測(cè)試組測(cè)試者面對(duì)攝像機(jī)，攝像機(jī)采集一次耗時(shí)1.5s~3s。人臉驗(yàn)證應(yīng)用或系統(tǒng)輸出一次結(jié)果記為一b)各測(cè)試組測(cè)試者面對(duì)攝像機(jī)，攝像機(jī)采集按式（2）計(jì)算得到防對(duì)抗補(bǔ)丁攻擊失敗率。F2越低表明人臉識(shí)別應(yīng)用或系統(tǒng)抵御對(duì)抗補(bǔ)丁攻擊的按式（3）計(jì)算得到防物理對(duì)抗補(bǔ)丁攻擊失敗率。F3越低表明人臉識(shí)別應(yīng)用或系統(tǒng)抵御物理對(duì)抗補(bǔ)............................................................... ——對(duì)抗擾動(dòng)，其維度與樣本維度相同，擾動(dòng)在范數(shù)度量下的大小不——擾動(dòng)大小約束上界，擾動(dòng)在范數(shù)度量下的大小不超過(guò)。.