解密 “AI换脸 ”诈骗技术原理科普动画

主编：于鸿峣、张剑、李伊宁、回笑哲、付丛茂

在大数据、超级计算、传感网等新理论新技术以及经济社会发展强烈需求的共同驱动下，人工智能加速发展，不断推动经济社会各领域从数字化、网络化向智能化加速跃升。但人工智能为社会发展带来新机遇的同时，其不确定性也为社会带来新挑战。作为新一轮科技革命和产业变革的核心技术，人工智能面临着冲击法律法规和道德伦理的现实风险，其不当应用会为社会安全和稳定带来消极影响。特别是伴随着深度合成技术的开放开源，近年来一些不法分子开始利用AI技术融合他人面貌，即“AI换脸”，制造非常逼真的合成图像及声音来实施电信网络诈骗。

“AI换脸”主要包括人声（脸）识别追踪、特征提取、变换融合、环境渲染、图像与音频合成等关键步骤。首先利用深度学习算法精准地识别语音视频中的声音图像，并提取出关键声音、面部特征，其次将这些特征与目标人声、人脸图像进行匹配、替换、融合，最后通过深度渲染生成逼真度较高的虚假视频。基于AI技术性支持，当前电信网络诈骗呈现出以下特点：一是技术成本由高向低转变。随着技术发展，人工智能“深度伪造”“深度合成”已成为一种可以低成本实现的诈骗技术。二是伪造身份从模糊向具体转变。传统网络诈骗往往只能以“某网站客服”等虚拟形象实施，但“AI换脸”诈骗可通过具体形象呈现，欺骗性更强。三是作案模式从“广撒网”向精准施骗转变。依托AI技术非法获取个人信息，并利用大数据分析性格特征、社会关系以准确筛选出诈骗对象，增加诈骗可信度。因此，“AI换脸”诈骗相较于传统网络诈骗的欺骗性更高、成功率更大、社会危害性更强。

本项目聚焦“AI换脸”诈骗现实问题，通过科普动画的形式解密“AI换脸”诈骗背后的信息抓取、变换融合等技术原理，提升社会公众“AI换脸”诈骗的防范意识，有效规避“AI换脸”诈骗的现实危害，促进社会有序运行，保障社会和谐稳定。