名医被AI“克隆”带货,画面和声音让本人后背发凉……

2025-11-16 18:47来源: 央广网

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  近期,一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”,不少消费者信以为真,纷纷下单购买。那么,这些看似权威的推荐,是否真的出自专家本人?背后隐藏着什么秘密?

  名医现身科普视频

  当事人全然不知

  一条AI仿冒视频中,侃侃而谈的专家,商家称是北京协和医院临床营养科主任于康教授,他是我国营养与健康领域的权威专家。

  记者在社交平台上刷到了不少以于康教授形象出镜的科普视频,介绍和推销减肥食谱。记者随后联系北京协和医院调查核实。于康教授明确表示,他本人从未参与录制此类视频。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  北京协和医院临床营养科主任 于康:我几乎天天收到好朋友和各种有我联系方式的人给我发来的消息,有质疑,还有提醒,经常有的一句话就是“这是你吗?”“这是于康吗?”我一看这完全是我的形象,声音相似度完全超乎了我的想象。现在技术能达到这个层级,一方面觉得不可思议,另外一方面觉得有一点后背发凉,挺可怕的。

  科普视频中,商家不仅盗用于康教授的形象,其介绍的营养知识,也是毫无依据,没有得到科学验证。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  于康教授更为担忧的是,视频里的错误信息,会让营养学界长期以来的科普努力,付诸东流。

  利用AI技术生成假视频

  医院医生深受其害

  记者注意到,这些短视频都来自一些自媒体账号,除了出现于康教授形象,还有一个共同特点是使用虚拟背景。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  不仅于康教授有这样的困扰,北京协和医院临床营养科马方教授也遭遇了同样的情况。在一个平台网店的链接里,视频里的“马教授”分享了自己的减肥经历。

  据北京协和医院介绍,不少知名专家被AI换脸,用于“养生”“瘦身”等虚假宣传,甚至还有不法商家利用AI生成假医生,打着北京协和医院的旗号,销售各类商品,误导消费者。医院、医生深受其害。

  AI仿冒著名主持人

  直播间虚假营销

  随着AI仿冒视频的泛滥,司法部门和监管部门已查处多起案件。记者在调查中了解到,多位公众人物的形象被擅自用于商业推广。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  今年年初,北京市海淀区市场监管局接到消费者举报,一直播间宣称一款鱼油产品具有医疗功效。该账号发布的短视频中,出现了中央广播电视总台主持人李梓萌的形象。

  记者注意到,发布仿冒主持人李梓萌短视频的账号名为“广州白云深海鱼油工厂”,拥有粉丝80多万。进入直播间后记者看到,这款鱼油售价59.9元三瓶,页面显示已售出17.7万单。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  北京市海淀区市场监管局海淀街道市监所科员 李欣容:最后当事人承认,这个短视频当中的李梓萌形象,是他们的员工在网络上搜集李梓萌播报过的新闻片段,通过AI技术擅自把这些新闻片段进行剪辑加工,最终合成了这个虚构的推荐视频。

  记者实测:

  30秒就生成女医生短视频

  记者调查发现,利用AI技术违规营销现象越来越多,关键原因是相关工具非常容易获取。而且,无论是换脸还是拟声,操作起来都十分简便。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  记者发现,各大手机应用商店均充斥着大量换脸App或小程序,大都可以免费使用。记者随机选取了一个App,仅需上传自己几张人脸照片,就能将目标视频中的知名专家换成自己的面容。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  除了换脸、拟声,有的App还能提供AI对口型、AI文生视频、AI电商等各种功能。记者体验了其中的“文生视频”功能:在对话框中输入关键词:北京协和医院,女医生,在诊室坐在桌子前,向患者介绍病情,不到30秒时间就生成了一段女医生形象的短视频,还可以选择“不添加AI生成字样”。随后记者输入减肥产品效果文案,选择“主播配音”,就生成了一条“北京协和医院女医生推广减肥产品的”营销视频。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  目前,AI仿冒相关维权难度极大,技术鉴定、证据固定以及溯源追责等环节,面临不小的阻力。

  北京市海淀区市场监管局海淀街道市监所副所长 史建颖:AI深度伪造视频鉴别难度大,成本高,肉眼难以识别,需要专业技术支持,而此类侵权违法行为造假成本低。另一方面是大量AI合成伪造视频涌现在电商平台,权利人自身不知情或知情后维权周期长,程序复杂,部分权利人选择放弃维权或配合度较低。

  监管新规

  AI内容必须加标识

  《人工智能生成合成内容标识办法》在9月1日已经正式实施,明确要求:利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息,必须依法添加相应的声明标识。

  记者调查发现,部分人工AI合成视频当中,发布者要么使用不显眼的字体,要么隐藏在画面边角,有的二次发布者甚至隐匿标识。

名医被AI“克隆”带货,画面和声音让本人后背发凉……

  专家表示,各社交平台作为AI生成视频发布主要渠道,应在平台规则、内容审查等方面进一步完善相关措施。

  转自:央视新闻

[责任编辑: ]
阅读剩余全文()
为你推荐
11月15日,施工人员在湖北省宜昌市夷陵区乐天溪镇百米高塔上开展导线附件安装作业(无人机照片)。
16日
11月15日,随着最后一块屋面钢结构网架精准吊装至指定位置并完成安装,由中铁建工、中铁八局承建的成渝中线高铁成都站主体结构完工,正式全面转入装饰装修与设备安装阶段。
16日
近日,位于甘肃敦煌鸣沙山下的敦煌视界·东门MALL建成开放。
16日
太平洋汇聚千流,广阔的亚太区域,承载着各经济体扬帆远航的梦想,承载着数十亿人命运与共的明天,汇聚起合作发展的澎湃动力。2026年,APEC深圳会议以“建设亚太共同体,促进共同繁荣”的鲜明主题,展现出作为东道主的中国对亚太向何处去的深邃思考。
15日
新华社发(王正摄)  2026年11月4日,在黑龙江仙洞山梅花鹿国家级自然保护区内的鹿群在山野间踏雪漫步、觅食,鹿影闪现在茫茫雪色之中,构成一幅灵动的生态画卷。新华社发(徐率摄)  2024年2月2日,游客在漠河市北极村体验“泼水成冰”。新华社发(徐率摄)  这是2026年11月7日拍摄的黑龙江省牡丹江市“中国雪乡”景区。
15日
11月14日在位于黑龙江省五大连池市的北大荒集团黑龙江尾山农场有限公司拍摄的雾凇景观(无人机照片)。初冬时节,黑龙江省多地出现雾凇,增添了几许冬的浪漫。初冬时节,黑龙江省多地出现雾凇,增添了几许冬的浪漫。
15日
摘得100米蛙泳和50米蛙泳金牌  11月5日,冠军中国选手谢以忱(中)在颁奖仪式上与亚军和季军自拍合影。
13日
11月6日至10日,2026年中国金鸡百花电影节在厦门如期举办。金鸡·鼓浪屿论坛上发布的报告《电影:文化与新时代——2026年度中国电影社会文化观察》印证了这一趋势:本年度现实题材成为创作主导,电影与时代的联结更加紧密。从项目征集走向产业生态建设,从金鸡创投走向更大舞台,中国电影“新力量”在这里孕育萌发。
13日
近日,江苏扬州瘦西湖风景区层林尽染、色彩斑斓,吸引众多游客前来游览观光,领略江南之美。近日,江苏扬州瘦西湖风景区层林尽染、色彩斑斓,吸引众多游客前来游览观光,领略江南之美。
13日
11月11日19时41分,我国在酒泉卫星发射中心使用长征二号丁运载火箭,成功将探源计划探路者卫星发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。11月11日19时41分,我国在酒泉卫星发射中心使用长征二号丁运载火箭,成功将探源计划探路者卫星发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。
12日
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮