张嘴、摇头，摄像头在捕捉到观众的动作后，屏幕上原本静态的人像瞬间“动”了起来，动作幅度和真人完全一致，还能眨眼和露齿微笑，仿真度很高；观众拍完一张照片后，几分钟内就能生成一段视频，将观众的脸自动替换掉某影视剧中知名演员的脸。11月8日，2022“互联网之光”博览会正式开幕，北京瑞莱智慧科技有限公司演示的“换脸术”吸引众多观众驻足围观。

“深度合成技术能够升级传统内容制作方法，提升内容制作效率和质量，为诸如虚拟IP的打造和运营、影视剧的本地化配音、数字替身等新场景的应用提供了技术支撑。”据介绍，该技术同时大大降低了信息造假的难度，安全隐患不容忽视。只需要拿到一张照片，就能生成非常逼真的伪造视频，用于捏造虚假信息、影视资料造假、恶搞特定人物等。

随着技术开源、标准化工具的推出，制作一段虚假内容的门槛越来越低，导致近年网络社交平台上虚假视频的数量高速增长。随着技术的不断成熟，合成视频在清晰度、流畅度、逼真度等各方面都有大幅提升，危害性不断增强。更需要警惕的是，这项技术被黑产分子用于新型诈骗。

工作人员现场演示了黑客如何利用“AI换脸”破解线上银行的人脸核验系统，通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作，再让智能设备不启动摄像头，直接底层注入合成的动态人脸视频，顺利绕过活体检测，顺利破解人脸识别。

据了解，这一方式被不法分子广泛用于盗刷银行卡、非法办理手机卡等诈骗场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话画面等欺骗真人，引诱转账、实施敲诈等。

深度合成技术的加速应用已成为现实趋势，为避免大规模技术滥用，瑞莱智慧推出的深度伪造内容检测平台DeepReal，可快速、精准地对图像、视频、音频内容进行真伪鉴别。据了解，该平台基于千万级训练数据，能够实现毫秒级检测速率，每帧画面检测时间仅需30毫秒，同时在主流数据集检测准确率达99%以上，在实际产业中检测准确率达到业界顶尖水平。

目前，该技术已在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等场景落地应用，实现对真伪内容的高效鉴别，对财产诈骗、虚假宣传、证据造假等违法行为的有效打击。

创立于2018年的瑞莱智慧，依托清华大学人工智能研究院发起设立，由清华大学人工智能研究院名誉院长张钹院士和基础理论研究中心主任朱军教授共同担纲首席科学家，是国内首家致力于安全、可信、可靠、可扩展的第三代人工智能技术的团队，提供人脸识别系统安全、自动驾驶系统安全、深度合成和伪造检测、隐私保护计算、AI攻防靶场等产品服务，目前已广泛落地政务、金融、能源、制造、互联网等领域。

2021年9月世界互联网大会期间，其自主研发的“安全可靠可控的新一代人工智能平台”入选全球领先科技成果，与华为、阿里巴巴、安谋科技等顶尖科技企业同台，成为该奖项设立以来首个入选的创业项目。（记者 刘艳）

标签：