恒大集团

声音也能被深度伪造,我们还安全吗

2019-09-12 09:43来源: 光明网-时评频道

  作者:张田勘

  伴随信息技术和人工智能(AI)的突飞猛进,借助于AI的深度造假(Deepfakes)也进入人们的生活,并激起巨大涟渏,冲击着人们的神经。在换脸造假之后,语音合成的深度造假也出笼了,这项技术可以模拟任何人的声音。据央视财经报道,彭博社记者万斯使用电脑合成语音给他母亲打了个电话,他的母亲并没有识别出这是真儿子还是语音合成的假儿子。

  在万斯告诉母亲是电脑合成他的语音在与她通话后问母亲,“你觉得吓人还是觉得不错?”母亲的回答是,“如果涉及到非常重要的事情,真的挺吓人的。”

  不只是万斯的母亲会认为深度造假的语音吓人,天下的母亲都会感到吓人。无论是相貌还是语音的深度造假,都涉及技术的两面性。在谈到技术的两面性时,人们都会引用刘易斯·芒福德的《技术与文明》,认为人类发明技术本来是为了便利和舒适,但最终自己的生活却被技术无情地改变甚至主宰了。

  网络、IT和AI当然是人类智慧的结晶,向善和向着有利于人和社会的方向发展,将把人类社会带入新的文明。但是,如果这些技术被不法者利用,而且管控不当,受到伤害的将会是每一个人。

  今天的信息技术的发展早就超出了《技术与文明》所描述的特征和人们拘泥的认识,即每项科技手段和成果只有在应用之后才会发现其问题,才能有时间和精力来监管。但是,信息技术的正反两方面问题正如其特点一样,一旦出现,就没有时间差,会随着其网络传播的速度,迅速传遍人类社会的每一个角落,只要有网络、WIFI布局的地方。

  对于信息技术和AI产品,全球有社会责任感的研发人员和公司早就深有同感,如果只是把新产品的研发和新技术的应用当作赚钱的工具,势必造成社会的混乱、失序。因此,微软提出了人工智能的一些伦理,包括公平、可靠和安全、隐私和保障、包容、透明和责任等。而且,这些准则已形成共识。

  但是,仅有这些准则远远不够。深度造假在语音和人脸、相貌上的多种产品就是如此。在中国有ZAO,在美国有FakeApp(2018年1月上线),都可以“一键换脸”。现在又有了“一键换音”的软件和APP。而这些产品在上市上线之前,显然并没有经过伦理审查和法律评估。因此,它们一上线,其负面效应就和正面效应同时出现,不只是BUG太多,还出现“技术行恶”的种种可能,如欺诈、制造外交纠纷、煽动政治暴力、破坏选举、危及国家安全等。

  这也意味着,信息技术和AI产品并不等同于一般的产品,如汽车,只有出现交通事故之后,才会想到用交通规则来管理,而是需要有一个提前量。而且,信息技术和AI产品还有一个特点是,覆水难收。例如,一键换脸的FakeApp在Reddit网站和其他网站已明令禁止,但仍有超过9万名用户在Reddit上传播换脸视频和图片。因此,在每一件AI产品和APP发布和投放市场之前,必须进行伦理和法律评估。

  同步甚至是前置监管信息技术产品,已成一种强烈的现实需求。国际上已有法律和伦理依据——欧盟欧盟2018年5月25日颁布实施的通用数据保护条例(GDPR),把个人数据置于现行欧盟法律保护之下。目前,其已对某些产品可能引发的个人隐私泄露的严重关切作出了反应,例如GOOGLE MAP、FACEBOOK等。未来,GDPR还将通过进一步确立“数据保护法案”来补充。同时,人工智能和信息技术伦理委员会也将对有技术公司在出台和发布AI产品进行审查,该委员应有工程师、科学家、律师、社会学家、公众代表、科技公司法人或领导组成。

  对信息科技产品尤其是AI产品进行科技伦理和法律审查,不是阻碍和桎梏科技发展,而是要为科技创新划定正确航道和必须遵守的价值底线,唯其如此才能加速科技发展。只有制度能保障科技向善之时,才会有人类社会的未来,才会提升社会文明。(张田勘)

[责任编辑: 王欣夷 ]
阅读剩余全文(
为你推荐
2019年9月17日,由文化和旅游部、国家文物局主办的"回归之路——新中国成立70周年流失文物回归成果展"在中国国家博物馆开幕。
18
9月17日,在金紫荆广场,香港青年参加国旗展示活动。当日,100名朝气蓬勃的香港青年齐聚金紫荆广场,参加“我与国旗·金紫荆同框”快闪活动。
18
70年,两万多天,人类历史长河的短暂一瞬,从封闭半封闭走向全方位开放的中国,却实现伟大历史性转折,创造了令世界惊讶的中国奇迹。
18
9月18日,晨雾缭绕下的大明湖。当日清晨,济南大明湖畔晨雾蔼蔼,连片的荷叶、碧绿的垂柳、雅致的古建筑,共同构成了一副“水墨画”。
18
2019年9月16日,江西省赣州市会昌县小密乡"赣南美食村"施工工地,工人在铺设仿古客家围屋钢筋。
18
头道拐水文站工作人员测沙结束后拿取样品(9月6日摄)。
17
新疆维吾尔自治区地处中国西北部,地域辽阔,资源富集。近年来,新疆多措并举加大生态环境保护力度,建设天蓝、地绿、水清的美丽家园。天山山脉横贯新疆中部,“三山夹两盆”的地貌特征使新疆拥有神奇独特的自然景观。
17
2019年9月12日,一群蓑羽鹤在新疆哈密市巴里坤县大河镇干渠村的麦田里觅食飞翔。眼下正值候鸟迁徙的季节,在巴里坤草原上迎来蓑羽鹤停歇觅食,为这里增添了生机。
17
9月16日,人们在观看钱塘江大潮。当日是农历八月十八,也是钱塘江潮水的大潮日。下午13时许,浙江海宁盐官镇出现钱塘潮“一线潮”景象。新华社发(崔力 摄)
17
9月16日,来自香港中文大学和声书院京昆班的同学表演节目。新华社 卢烨 摄  新华社香港9月16日电(朱宇轩)香港戏剧界国庆筹备委员会16日晚举行联欢宴会,庆祝中华人民共和国成立70周年。
17
2019年9月15日,丹江口大坝开启两个深孔泄洪。为应对汉江秋汛,汉江集团接长江委调度指令,当日下午2时,丹江口大坝开启两个深空泄洪,下泄流量由每秒1000立方米增加到2600立方米。
16
2019年9月14日,成群大杓鹬在青岛市城阳区两河入海口湿地觅食。近日,位于山东青岛城阳区"两河"入海口湿地的迁徙候鸟日趋增多,黑嘴鸥、黄嘴白鹭、大杓鹬等珍稀鸟类扎堆觅食补充体能。
16
9月14日,在俄罗斯首都莫斯科,人们手拿两国国旗参加“中国文化节”庆祝活动。为庆祝新中国成立70周年和中俄建交70周年,“中国文化节”庆祝活动14日在俄罗斯首都莫斯科的国民经济成就展览馆开幕,主题是“中国:伟大遗产和新时代”。
16
广西南宁市武鸣区从2012年开始引进沃柑种植,经过近8年的发展,该区沃柑种植面积已达到30多万亩,成为国内知名的沃柑产区。
16
在西藏自治区古籍保护中心,工作人员查看白嘎寺距今500多年历史的珍贵藏文濒危古籍文献
16
尼木县隶属于西藏自治区拉萨市,地处西藏中南部、雅鲁藏布江中游北岸。这里山峦起伏,河谷纵横,地形西高东低,平均海拔4000米以上。
15
9月14日,游客在银川市中山公园观赏菊花。银川市第九届菊花艺术展将于9月15日举行,作为主要展区的银川市中山公园内的参展花卉目前已基本布置完毕。
15
初秋时节,西藏拉萨市达孜区塔杰乡巴嘎雪村金色池塘生态景区景色怡人。
15
不少市民和游客利用中秋假期来到南京市民俗博物馆参观游览,近距离接触和体验民俗文化,在传统文化的熏陶中欢度佳节。
15
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮