日前，一條AI詐騙成功率接近100%#的話題沖上微博熱搜。一個(gè)AI換臉的視頻，讓福建某科技公司的法人代表在10分鐘內(nèi)就被騙走了430萬(wàn)。

國(guó)外也發(fā)生了一起AI相關(guān)詐騙，一封附上谷歌CEO視頻的郵件，讓不少YouTube博主們下載了帶著危險(xiǎn)病毒的文件。

【資料圖】

這兩起詐騙事件都有著深度偽造技術(shù)deepfake的身影。這是一項(xiàng)誕生了6年之久的換臉大法，如今AIGC技術(shù)的大爆發(fā)，更使得制作難以識(shí)別的deepfake視頻越來(lái)越容易。對(duì)人臉識(shí)別應(yīng)用普遍的金融行業(yè)來(lái)說(shuō)，防深偽攻擊也顯得尤為重要。

在金融行業(yè)，由deepfake產(chǎn)生的欺詐主要是身份欺詐，即通過(guò)深度偽造的虛假圖像和視頻來(lái)冒充他人身份，騙過(guò)金融信貸流程中的身份核驗(yàn)系統(tǒng)，進(jìn)而實(shí)施盜刷和惡意注冊(cè)等。目前，金融行業(yè)應(yīng)對(duì)deepfake已有了比較成熟的技術(shù)方法和方案，度小滿在deepfake應(yīng)對(duì)方法上就積累了豐富的經(jīng)驗(yàn)。

度小滿介紹，近年來(lái)利用深偽技術(shù)繞過(guò)人臉識(shí)別流程的趨勢(shì)有所增長(zhǎng)，對(duì)金融機(jī)構(gòu)實(shí)名認(rèn)證系統(tǒng)造成了一定的威脅。而要識(shí)別認(rèn)證內(nèi)容是否造假，最好的辦法是交給AI去解決，研發(fā)“反deepfake”檢測(cè)算法。據(jù)了解，度小滿防深偽檢測(cè)模型的算法策略就從三個(gè)維度入手，有效破解造假視頻。

首先是生成瑕疵。具體而言，由于相關(guān)訓(xùn)練數(shù)據(jù)的缺失，deepfake模型可能無(wú)法正確渲染部分人類面部特征，小到眨眼頻率不正常，大到口型與聲音不吻合等。檢測(cè)模型則能將這些“基本肉眼可見”的特征都提取出來(lái)，設(shè)計(jì)特定的分析算子，從而進(jìn)行分析研判。

其次是固有屬性。由于不同攝像機(jī)擁有不同的設(shè)備指紋，類似GAN這種模型在生成人臉時(shí)也會(huì)留下獨(dú)特的用于識(shí)別生成器的指紋，因此經(jīng)過(guò)對(duì)比就能發(fā)現(xiàn)端倪。

第三個(gè)細(xì)節(jié)是高層語(yǔ)義。它指的是檢測(cè)面部動(dòng)作單元（肌肉群）協(xié)調(diào)性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問(wèn)題，由于這些細(xì)節(jié)建模困難、難以復(fù)制，很容易抓到把柄。

當(dāng)然，由于單一特征難以適應(yīng)復(fù)雜的deepfake內(nèi)容，因此檢測(cè)模型的整體框架采用的是多特征融合，以此來(lái)保證決策的魯棒性。

在數(shù)據(jù)樣本優(yōu)勢(shì)之外，度小滿還融入了自己的獨(dú)創(chuàng)點(diǎn)，包括神經(jīng)網(wǎng)絡(luò)搜索調(diào)優(yōu)算法、微表情分析和圖卷積（GCN）技術(shù)以及基于重建的自監(jiān)督預(yù)訓(xùn)練方法，讓模型實(shí)現(xiàn)了從“鑒偽”到“鑒真”的轉(zhuǎn)變。

也正因此，去年9月度小滿防深偽檢測(cè)模型順利通過(guò)了信通院人臉識(shí)別安全專項(xiàng)評(píng)測(cè)，獲得活體檢測(cè)安全防護(hù)能力優(yōu)秀級(jí)認(rèn)證。具體效果上，它可以覆蓋各種深偽形式，包含靜態(tài)人像圖片活化、AI換臉、人臉虛假合成等，達(dá)到千分之一誤報(bào)率下召回90%以上，也就是99%+的準(zhǔn)確率。

隨著新的deepfake工具不斷涌現(xiàn)，金融行業(yè)要應(yīng)對(duì)的深偽攻擊會(huì)更多。度小滿認(rèn)為，未來(lái)更多的鑒偽技術(shù)應(yīng)該集中去挖掘語(yǔ)義特征、跨模態(tài)特征等，讓模型利用可解釋性強(qiáng)的高層語(yǔ)義去鑒偽。（柯巖）