从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报道见习记者 郭聪聪(cōng) 北京报道

　　人工(gōng)智(zhì)能技术(shù)广 泛应用于金融领域，在提高金融服务效率和质量的同时(shí)，其黑暗面也日渐显现。由人工智能技(jì)术演化而来的Deepfake（深(shēn)度伪造）技术欺诈日益猖獗(jué)，奇(qí)安信集(jí)团(tuán)发布的《2024人工智能安全报告》中显(xiǎn)示，在2023年，基于AI的深度伪造欺诈暴增了3000%。在(zài)这过程中，首当其冲的(de)就是广泛适用“人脸识别”系统的金融行业(yè)。

　　为提升金融信息(xī)系(xì)统的安全性，9月6日北京(jīng)国(guó)家金融科技认证(zhèng)中心联合10多(duō)家金融(róng)机构(gòu)发布的(de)《虚假数字(zì)人(rén)脸检测金融应用技术规范》（下称《应用规范》）正式施行。《应用规 范》规定了(le)面向金融领域应用的虚假数字人脸检测服务的技术(shù)框架、功能要求、性能要求等(děng)，并提出对应的测试评估方法，为(wèi)金融机构防御虚(xū)假数字人脸攻击提供了重(zhòng)要参考(kǎo)，这(zhè)是国内首个面(miàn)向Deepfake进(jìn)行安全检测的标
准。

　　Deepfake正在冲击银行“人脸识 别”系(xì)统

　　Deepfake由“Deep learning”和“fake”组成，最早(zǎo)出现在 2017 年。其(qí)名称最(zuì)初源于一个名为“Deepfakes”的用户(hù)在Reddit社交网站上，发布了一(yī)系列名人的深度伪造(zào)视(shì)频(pín)，并声称(chēng)这是一个新的合成技(jì)术
。

　　作为一(yī)种新兴的黑产攻击手段，Deepfake能够快速学习被仿冒者的样貌(mào)及声音，十分狡猾且具
迷惑性，在 其(qí)背后支撑(chēng)的是日益精进化的人工智能技术。在金融账(zhàng)户开户、账(zhàng)户登录、移动支付、从0到1 国内首个金融领域“Deepfake”检测标准来了理财保险身份鉴别等各种金融应用场景中都需要“人脸识(shí)别”的今天，Deepfake对“人脸识
别”系(xì)统的攻击给金(jīn)融行业带来了巨大的潜伏风(fēng)险。

　　就以银行业为例(lì)， Deepfake就成为了攻击银行外围防火墙的工具。通常银行 网(wǎng)上银行的登录系统往往需要个人信息、验证码(mǎ)、密码与人(rén)脸识别，作为最(zuì)后一层保(bǎo)障，人脸识别系(xì)统正在面(miàn)临Deepfake的冲击。

　　今年2月，国(guó)外某安全公(gōng)司就发现了名为(wèi)“GoldPickaxe”的恶意手机木马软件。不同于传统的窃取资金方(fāng)式，不法分(fēn)子通过该(gāi)木马软件窃(qiè)取手机使用(yòng)者(zhě)的面部(bù)肖
像等生物识(shí)别数据、拦截(jié)短信等，继而(ér)伪造人脸动态视频，登录用户的银行账
号进行转账、消费、修改账号(hào)密码等操作(zuò)。目前，GoldPickaxe木马病毒活跃在越(yuè)南和泰国，支持iOS和Android版本，十(shí)分值得警惕(tì)。

　　本报记者(zhě)也曾对国内部分银行的(de)手机(jī)银行展(zhǎn)开了一次(cì)Deepfake测(cè)试(shì)。利用Deepfake技术，持卡人的肖像特征被抓(zhuā)取，再(zài)通过技(jì)术合成到非持卡人的面庞之上，非持卡人能够顺畅的以持卡人的(de)面容执行“张嘴、点头、摇头”等指令，不(bù)过并未能突(tū)破(pò)银行(xíng)的防御机制。但实现(xiàn)这一操(cāo)作，仅拿
到持卡人的一
张照(zhào)片
就可做(zuò)到。

　　国内首个金融领(lǐng)域“Deepfake”检测标准

　　中信银行信息技术管理部创(chuàng)新科学家张然(rán)是《应用规范》的起草者(zhě)之一，在接受本报记者采访时他(tā)提到：“《应用规(guī)范》是(shì)国内(nèi)金融领域首个虚假数字(zì)人(rén)脸检测标准，实现了从0 到1的突(tū)破，是(shì)数字金融方向(xiàng)的重要(yào)研究成果。该标准目前属于团体标(biāo)准，但在未来将在(zài)此标(biāo)准的基础上申请国家标准及国际标准。”

　　该
标准的核心特点在于其为金融领(lǐng)域(yù)的虚假数字人(rén)脸检测提供了系统化的技术框架、功能要求、性能(néng)评估方(fāng)法等，专门(mén)针对通过生成式人工智能、深度伪造等技术制作的虚假人(rén)脸内(nèi)容进行检测。

　　同时，《应用规范》注重(zhòng)识别不(bù)同类型的虚假人脸内容，包括图像、视频等形式，提出了(le)基于深(shēn)度学习、卷积神经网络等技术的检(jiǎn)测方法，并强调了(le)对检测准确(què)性、鲁棒性和泛(fàn)化性的全面评(píng)估(gū)（如下图(tú)）。

　　张然在介绍《应用规范》的具体应用场景时提到，《应用规范》在身份识别、交易验证的场景(jǐng)中均制定了相(xiāng)应评估方法。

• 身(shēn)份(fèn)识别。在金(jīn)融机构进行开户或身(shēn)份验证时，虚假数字人脸检测技术可以有效识(shí)别使用虚假数字(zì)人(rén)脸(liǎn)企(qǐ)图冒用他人身份的行为。通过检测虚假面(miàn)部特征，系(xì)统可以(yǐ)准确判断并拒绝虚假(jiǎ)的开户申请。
• 交易验证。在高(gāo)额交易中，特别是涉
  及远程身份验证时(shí)，该技术可以通过实时视频对话(huà)或者图(tú)像验(yàn)证用户身(shēn)份，防止恶意攻击(jī)者使用虚(xū)假(jiǎ)人脸视频进行交易(yì)验证，从而提高金(jīn)融交(jiāo)易(yì)的安全性。

　　在(zài)谈到《应用规范》对于银行业的影响时，张然说：“银行业对于《应(yīng)用规范》的反馈很好，工商银行从0到1 国内首个金融领域“Deepfake”检测标准来了>、建(jiàn)设(shè)银行、邮储银行等银(yín)行将参(cān)与应用。”

　　张然表示，该标准的应用将持续提升银行(xíng)业(yè)在防(fáng)范虚假身份认证和金融(róng)欺诈方面的能力。虚(xū)假数字人脸(liǎn)检测技术可以有效(xiào)抵御深度伪造(zào)等技术(shù)的攻击，确保用户身份的(de)真实性，保护银行系统免受伪造人(rén从0到1 国内首个金融领域“Deepfake”检测标准来了)脸攻击的威胁。此外，通过这种(zhǒng)技术的应用(yòng)，银(yín)行可以进一步优(yōu)化远程服务和数字化交易的安全性，为用户提供更(gèng)安全(quán)的线上金融服务体验(yàn)。