识破“AI换脸术”用人工智能(AI)来检测恶意AI

2021-08-17 09:39:55

随着人工智能的迅猛发展,一些使用Deepfake(人工智能换脸工具)深度伪造技术制作的换脸视频也在网络上屡见不鲜。这项技术甚至被别有用心的人利用,成为实施诈骗、诬陷等罪恶勾当的工具。

“要用人工智能(AI)来检测恶意AI。”清华大学人工智能研究院教授朱军说。

在2021世界人工智能大会上,依托清华大学人工智能研究院成立的孵化企业——北京瑞莱智慧科技有限公司(以下简称瑞莱科技),发布了一款能够一秒识别真伪的鉴别“神器”——DeepReal深度伪造内容检测平台,让“假脸”无处遁形。

中国科学院院士、清华大学人工智能研究院院长张钹曾提出“第三代人工智能”的概念,也就是安全、可靠、可信的人工智能。在他看来,DeepReal平台是一个很好的技术应对。

AI也会“作恶”

人脸是人类身份信息识别最为显著的特征之一。然而,随着AI技术的飞速发展,这一切正在被深度伪造技术所瓦解。

深度伪造也被译作深度造假,译自英语Deepfake,是计算机的“深度学习”(Deeplearning)和“伪造”(fake)的组合。所谓深度伪造,是指把图片和声音输入机器学习的算法,从而可以轻易地进行“面部操作”,即把一个人的脸部轮廓和表情放置在其他任何一个人的脸上,同时利用对声音的逼真处理,制造出实为合成却看似极真的视频,用以躲避识别、混淆视听、娱乐用户及实现其他虚假宣传的目的。

近年来,非法利用AI技术伪造他人肖像吸引流量牟利,甚至从事侮辱、诽谤、网络诈骗、色情宣传等违法犯罪活动的案例已屡见不鲜。

“科技是发展的利器,也可能成为风险的源头,AI的发展也不例外。我们既要抓AI的创新发展,也要抓AI的治理,两手都要抓。”张钹说。

束之有“术”

门槛低、影响大、变化快是深度伪造技术的显著特征,且肉眼难以识别,更无法大量检测。

朱军表示,实网环境中的伪造视频不断变化,需要有强对抗的手段加以遏制,最好的方法就是“深度检测”。而在检测效果上,不仅要有高准确率与高效率,还需要具有可解释性,让检测结果可靠、可信服。此外,要能够快速即时应对新型的深度伪造类型。

针对以上痛点,瑞莱科技基于第三代人工智能技术研发出了DeepReal,能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,快速、精准地对多种格式与质量的图像进行真伪鉴别。

检测准确率是衡量该平台价值重要的指标。

瑞莱科技副总裁唐家渝介绍,检测效果主要受到数据集多元化程度和算法可靠程度两个因素的影响。DeepReal深度伪造检测平台算法基于大数据量进行训练和测试。

据介绍,截至目前,该平台数据量已达到千万级,数据集已覆盖三大类,包括学术深伪数据集、网络深伪数据集和自研深伪数据集。同时,通过结合贝叶斯学习框架和深度神经网络,来估计模型在预测新样本时的不确定性。

在测试结果上,DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中,已达到99%以上的准确率。而在实际应用中,DeepReal的检测准确率也已达到业界顶尖水平,远超 Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。

此前,瑞莱科技团队在国际安全极客大赛GeekPwn 2020 首届 CAAD 虚假人脸 AI 识别大赛上,以绝对优势夺得冠军;在国家网信办与公安部共同指导的第二届“中国人工智能·多媒体信息识别技术大赛”中,斩获“创新之星”奖以及深伪检测竞赛A类奖。此外,DeepReal在深伪相关领域也已发表顶级会议和期刊论文十余篇。

值得一提的是,DeepReal深度伪造内容检测平台可实现每帧画面的检测时间仅用时30毫秒。同时,还支持横向拓展与集群部署。检测完毕,平台还支持生成检测报告。

AI界的安全之盾

事实上,深度伪造技术的滥用,给个人生活、国家安全和社会稳定带来诸多问题和挑战,而且随着仿真精度的提升,这种问题有愈演愈烈的趋势。

今年1月1日正式施行的《民法典》明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

也就是说,禁止利用信息技术手段伪造的方式侵犯他人的肖像权和声音。

据唐家渝透露,针对深度伪造技术的防范,他们已与工业和信息化部、公安部、国家互联网应急中心等多家机构展开深入合作。

此前,该公司就与国家工业信息安全发展研究中心联合制定我国人脸模型算法自身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范》;作为第二编写单位与中国信息通信研究院联合编制《人工智能安全框架(2020年)》蓝皮书。此外,他们也参与包括机器学习算法安全相关的国家标准以及人工智能合成音视频、人工智能生物特征识别相关的行业标准等多项标准的制定工作。

唐家渝表示,未来DeepReal平台将在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等实际应用场景中发挥强大作用。而瑞莱科技也将持续迭代技术、打磨产品,确保在这场深度伪造的“攻防战”中持续发挥作用。

关闭
新闻速递