一秒识破“AI换脸术”

一秒识破“AI换脸术”

2021-07-15 09:31来源: 《中国科学报》

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  图片来源:unsplash

  记者 秦志伟

  随着人工智能的迅猛发展,一些使用Deepfake(人工智能换脸工具)深度伪造技术制作的换脸视频也在网络上屡见不鲜。这项技术甚至被别有用心的人利用,成为实施诈骗、诬陷等罪恶勾当的工具。

  “要用人工智能(AI)来检测恶意AI。”清华大学人工智能研究院教授朱军说。

  在2021世界人工智能大会上,依托清华大学人工智能研究院成立的孵化企业——北京瑞莱智慧科技有限公司(以下简称瑞莱科技),发布了一款能够一秒识别真伪的鉴别“神器”——DeepReal深度伪造内容检测平台,让“假脸”无处遁形。

  中国科学院院士、清华大学人工智能研究院院长张钹曾提出“第三代人工智能”的概念,也就是安全、可靠、可信的人工智能。在他看来,DeepReal平台是一个很好的技术应对。

  AI也会“作恶”

  人脸是人类身份信息识别最为显著的特征之一。然而,随着AI技术的飞速发展,这一切正在被深度伪造技术所瓦解。

  深度伪造也被译作深度造假,译自英语Deepfake,是计算机的“深度学习”(Deeplearning)和“伪造”(fake)的组合。所谓深度伪造,是指把图片和声音输入机器学习的算法,从而可以轻易地进行“面部操作”,即把一个人的脸部轮廓和表情放置在其他任何一个人的脸上,同时利用对声音的逼真处理,制造出实为合成却看似极真的视频,用以躲避识别、混淆视听、娱乐用户及实现其他虚假宣传的目的。

  近年来,非法利用AI技术伪造他人肖像吸引流量牟利,甚至从事侮辱、诽谤、网络诈骗、色情宣传等违法犯罪活动的案例已屡见不鲜。

  “科技是发展的利器,也可能成为风险的源头,AI的发展也不例外。我们既要抓AI的创新发展,也要抓AI的治理,两手都要抓。”张钹说。

  束之有“术”

  门槛低、影响大、变化快是深度伪造技术的显著特征,且肉眼难以识别,更无法大量检测。

  朱军表示,实网环境中的伪造视频不断变化,需要有强对抗的手段加以遏制,最好的方法就是“深度检测”。而在检测效果上,不仅要有高准确率与高效率,还需要具有可解释性,让检测结果可靠、可信服。此外,要能够快速即时应对新型的深度伪造类型。

  针对以上痛点,瑞莱科技基于第三代人工智能技术研发出了DeepReal,能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,快速、精准地对多种格式与质量的图像进行真伪鉴别。

  检测准确率是衡量该平台价值重要的指标。

  瑞莱科技副总裁唐家渝介绍,检测效果主要受到数据集多元化程度和算法可靠程度两个因素的影响。DeepReal深度伪造检测平台算法基于大数据量进行训练和测试。

  据介绍,截至目前,该平台数据量已达到千万级,数据集已覆盖三大类,包括学术深伪数据集、网络深伪数据集和自研深伪数据集。同时,通过结合贝叶斯学习框架和深度神经网络,来估计模型在预测新样本时的不确定性。

  在测试结果上,DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中,已达到99%以上的准确率。而在实际应用中,DeepReal的检测准确率也已达到业界顶尖水平,远超 Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。

  此前,瑞莱科技团队在国际安全极客大赛GeekPwn 2020 首届 CAAD 虚假人脸 AI 识别大赛上,以绝对优势夺得冠军;在国家网信办与公安部共同指导的第二届“中国人工智能·多媒体信息识别技术大赛”中,斩获“创新之星”奖以及深伪检测竞赛A类奖。此外,DeepReal在深伪相关领域也已发表顶级会议和期刊论文十余篇。

  值得一提的是,DeepReal深度伪造内容检测平台可实现每帧画面的检测时间仅用时30毫秒。同时,还支持横向拓展与集群部署。检测完毕,平台还支持生成检测报告。

  AI界的安全之盾

  事实上,深度伪造技术的滥用,给个人生活、国家安全和社会稳定带来诸多问题和挑战,而且随着仿真精度的提升,这种问题有愈演愈烈的趋势。

  今年1月1日正式施行的《民法典》明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

  也就是说,禁止利用信息技术手段伪造的方式侵犯他人的肖像权和声音。

  据唐家渝透露,针对深度伪造技术的防范,他们已与工业和信息化部、公安部、国家互联网应急中心等多家机构展开深入合作。

  此前,该公司就与国家工业信息安全发展研究中心联合制定我国人脸模型算法自身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范》;作为第二编写单位与中国信息通信研究院联合编制《人工智能安全框架(2020年)》蓝皮书。此外,他们也参与包括机器学习算法安全相关的国家标准以及人工智能合成音视频、人工智能生物特征识别相关的行业标准等多项标准的制定工作。

  唐家渝表示,未来DeepReal平台将在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等实际应用场景中发挥强大作用。而瑞莱科技也将持续迭代技术、打磨产品,确保在这场深度伪造的“攻防战”中持续发挥作用。

[责任编辑: 武玥彤 ]
阅读剩余全文(
为你推荐
9月21日,广东队选手苏炳添(右四)在全运会男子百米决赛中以9秒95的成绩夺得冠军。这是空中俯瞰宛如两叶绿肺的西安沣河梁家滩运动公园(5月25日摄,无人机照片)。
28
中国科学院院士、中国科学院青藏高原研究所所长陈发虎(前)在四川稻城皮洛遗址现场研究地层(9月12日摄)。新华社记者 谢佼 摄  新华社北京9月27日电(记者施雨岑)国家文物局27日在京召开“考古中国”重大项目重要进展工作会,通报四川稻城皮洛遗址、山东沂水跋山遗址和河南鲁山仙人洞遗址3项重要考古发现成果。
28
因卡车司机严重不足冲击物流运输、引发供应链危机,英国近期加油站缺油现象严重,很多加油站被迫停业或“限量加油”,市民出现“恐慌式”加油。新华社记者 韩岩 摄  9月27日,英国伦敦一家加油站的加油机上贴着每人限购最多30英镑燃油的告示。
28
9月26日,安谋科技(中国)有限公司代表介绍“智能计算芯片行业创新:全球首个开源NPU指令集架构”。当日,14项世界互联网领先科技成果在浙江乌镇举行的2021年世界互联网大会乌镇峰会上发布。
27
9月26日,工作人员在津巴布韦首都哈拉雷的罗伯特·穆加贝国际机场转运中国援助的新冠疫苗。中国援助津巴布韦的第四批新冠疫苗26日下午运抵首都哈拉雷。中国援助津巴布韦的第四批新冠疫苗26日下午运抵首都哈拉雷。
27
9月26日,模特在北京时装周闭幕大秀上展示劳伦斯·许设计的时装。当日,2021北京时装周闭幕盛典在北京王府井步行街举行,设计师劳伦斯·许与保利·中国中丝集团联袂上演以“蝶”为主题的闭幕大秀。
27
9月25日,浙江乌镇,一名参观者体验VR(虚拟现实)眼镜。作为2021年世界互联网大会乌镇峰会的组成部分,“互联网之光”博览会25日在浙江桐乡的乌镇启幕。
26
9月25日,市民在澳门关闸工人体育馆办理核酸检测手续。
26
9月25日,在贵州省从江县高增乡小黄侗寨,村民在晾晒稻谷(无人机照片)。金秋时节,贵州省黔东南苗族侗族自治州从江县高增乡小黄侗寨稻谷喜获丰收,当地农民忙着抢收晾晒。
26
秋分时节,广西南宁市邕宁区蒲庙镇的晚稻抽穗,秋冬菜陆续种植,构成一幅幅美丽的乡村画卷。秋分时节,广西南宁市邕宁区蒲庙镇的晚稻抽穗,秋冬菜陆续种植,构成一幅幅美丽的乡村画卷。
25
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮