3月28日

　　#女子地铁照被AI一键脱衣传播#

　　冲上热搜

　　据报道，近日，广东广州一女子在地铁上的照片被AI一键脱衣，造谣图在网络广泛传播引发关注。

　　事实上，照片的女主角是小红书的一名博主，而所谓的“裸照”则是她去年7月在平台分享的一张照片。原图中她衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件一键脱衣，故意全网散播。

　　目前博主已在评论区回复各位网友，称会进行相关的维权处理。

　　在这则图文分享的评论区

　　已经有众多网友评论提醒博主，

　　催促其尽快报警，

　　也有人热心地帮助其辟谣澄清。

　　AI换脸换装，或涉嫌刑事犯罪

　　近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。

　　明星刘昊然就曾在2021年8月26日发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。

　　此前一网红特效合成师利用电脑后期制作，合成与某知名女星亲吻的影片在网上传播，这很容易让人认为AI合成的内容就是真实发生的，从而产生很严重的风险和侵害。

　　专家表示，在《网络安全法》第二十七条的规定当中，特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持，如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。

　　今年1月10日开始施行的《互联网信息服务深度合成管理规定》中也提出，要对深度合成技术应用提出规范。

　　三部门规范深度合成服务

　　换脸、换声、三维重建、智能对话……深度合成服务已在国外互联网社交媒体中广泛应用，催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等应用服务。

　　据“网信中国”2022年12月11日晚消息，中国国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》)，自2023年1月10日起施行。

　　三部门在答记者问中表示，《规定》中所称深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　其中也包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　中国科学院信息工程研究所所长孟丹表示，从技术进步的角度来说，深度合成技术应用的初衷是让生成合成内容更逼真，但深度合成技术在愈趋“智能”的同时，也不可避免地带来更多的安全风险，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄露、侵犯人格权和知识产权等他人合法权益等风险。

　　中国科学院自动化研究所所长徐波表示，《规定》分析梳理了深度合成活动边界，明确了深度合成技术定义，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。

　　《规定》还针对利用生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息，明确了算法备案、安全评估、显著标识等强制性要求及适用情形，如规定深度合成服务提供者和技术支持者若生成或编辑生物识别信息，必须进行算法安全评估。

　　徐波还表示，《规定》对《互联网信息服务算法推荐管理规定》关于生成合成类算法标识相关要求作出细化，明确采取技术措施添加不影响用户使用的标识，如可能导致混淆或者误认的，还应当在合理位置、区域进行显著标识等要求，规定任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。

　　网友评论

　　综合中国反邪教、中国青年报、新闻晨报、泾渭视频、央视网、中国新闻网、网信中国、网友评论