第三代人工智能基础设施和解决方案提供商瑞莱智慧，也在持续关注深度合成技术。3月1日，瑞莱智慧在北京举办了主题为“AI时代的‘面子’问题”的媒体沟通会，瑞莱智慧CEO田天，副总裁唐家渝及中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文等嘉宾出席了此次会议。

深度合成内容亟待治理

会上，瑞莱智慧与清华大学人工智能研究院、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心联合发布《深度合成十大趋势报告(2022)》，介绍和研判深度合成技术及应用带来的机遇与挑战，并就其发展与治理给出切实可行的建议和措施。

瑞莱智慧CEO田天在沟通会上对《报告》内容进行了深入解读。田天认为，技术的不断成熟是深度合成内容迎来爆发式增长的重要原因。 “新型伪造方法层出不穷、网络传播环境的日趋复杂，加上基于检测算法存在漏洞缺陷等，反深伪检测技术面临‘强对抗性’，需要持续更新与迭代”。

深度合成内容的治理是一项长期的工作，需要社会各方的通力协作。田天表示，瑞莱智慧希望为人工智能和深度合成技术的规范发展出力。对于深度伪造内容，相关的检测工具十分重要，瑞莱智慧研发的深度合成内容检测平台DeepReal，将协助各界、各个机构，让深度合成技术健康发展。

AI安全迎关键窗口期

近年来，人工智能安全已成为国家政策层面重点关注的领域，国家相关的法律法规的不断完善以及各方对于算法治理、隐私保护等问题的高度关注，人工智能安全已迎来关键窗口期。国内目前尚未产生有世界影响力的人工智能产品和产业生态，这正是瑞莱智慧努力的目标。未来，瑞莱智慧与各界的联系和合作会越来越紧密，共同为人工智能领域的健康发展贡献力量。

中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文在演讲中表示，深度合成技术涉及到认知安全，所以我们要提升社会认知安全意识，将它作为集体责任，提升公众的数字素养，以及每个人对深度合成时代真相的认识和鉴别力。

深度伪造技术持续进化 DeepReal成对抗利器

深度伪造技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。会上，瑞莱智慧副总裁唐家渝向媒体讲解和演示了深度合成内容检测平台DeepReal。他表示，深度伪造技术检测工作当前面临两大难点：一是肉眼难以辨别，传统人工内容审核团队无法应对;二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、深度学习检测算法模型存在结构性缺陷等。

唐家渝介绍，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率，而在实际应用中，DeepReal的检测准确率也已达到业界顶尖水平，超过Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。

在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒。DeepReal平台此前在国际安全极客大赛等多个重要赛事中屡获大奖，无论是标准层面、实战落地层面还是监管层面，瑞莱智慧现已与多家单位开展多方面的合作，DeepReal将在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等实际应用场景中发挥强大作用。

唐家渝表示，除深度合成技术内容检测以外，瑞莱智慧目前也正在做相关研究，探索深度合成技术的正向应用，例如人脸替换技术，包括演员的面部替换、影视本地化配音、后期更换演员台词等等。

在谈到深度合成内容制作的发展趋势时，唐家渝认为，目前该技术集中在人脸合成范围内，未来一定会扩展到人体、环境等复杂场景下的合成。与此同时，未来相关的法律法规将更加完善，合法合规的应用边界更加清晰，会进一步促成深度合成相关产品的加速落地。

人脸识别安全正在从普通摄像头进入立体视觉和三维深度时代，基于普通摄像头的人脸识别目前比较容易破解，基于三维立体信息的人脸识别就比较难以破解。针对二维与针对三维的不同攻击，在防范措施上有何不同?

对于亿欧EqualOcean的提问，唐家渝表示，从人脸识别的技术路线来说，因为3D天然地有很多的深度信息，安全性会提高很多，针对3D人脸识别方案的攻击也更难。但安全性更高，也并非绝对不可破解，只是在进行攻防测试时，会有不同的测试策略。

比如，对抗样本攻击方面，2D和3D的载体和形式就不太一样，有的形式对于2D攻击是特别稳定有效，有的对3D攻击比较有效。瑞莱智慧也在协助做对抗样本攻击的国家标准，具体的技术路线还在完善和讨论过程中。

为了应对深度合成内容越来越逼真且多元的问题，基于人工智能技术实现自动化检测的方案也应运而生，如基于伪造内容数据集完成对模型检测器的训练、基于帧间不一致性实现对伪造内容的判别等。这些方法在开源数据集中均能达到很高的准确率。

“道高一尺魔高一丈”，伴随新型伪造方法的层出不穷、网络传播环境的日趋复杂，加上基于深度神经网络的检测算法存在结构性缺陷等，反深伪检测技术也面临“强对抗性”，需要持续更新与迭代优化。

为了能在对抗攻防中掌握主动权，未来反深伪检测技术的发展需融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力，实现伪造内容的精准识别，打造可信内容体系。

深度合成治理的监督管理机制也在逐步建立。近年来，我国相继在网络安全、数据安全、算法安全等领域出台法规标准，并在深度合成领域制定专门的管理规定。瑞莱智慧等企业在影视艺术等领域开拓出多个深度合成技术应用场景，创立了示范标杆，这也有助于带动人工智能行业整体的发展。