来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

光明网 显示图片

  火爆热搜的“3·15”晚会

  您看了吗?

  晚会聚焦“放心消费 品质生活”主题

  关注食品安全、公共安全、金融安全、广告市场等领域

  侵害消费者权益的违法行为

  今年有哪些值得关注的消费黑幕

  跟咱们科技领域有关?

  一起来看

  01

  AI遭“投毒”

  被GEO技术操控的大模型

  “3·15”晚会曝光

  一项名为GEO的业务正在蔓延

  从事该项业务的服务商号称

  用户只需支付相应的费用

  就能在各大主流AI大模型里

  让客户的产品榜上有名

  让客户的商品广告

  成为AI模型给出的“标准答案”

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  某业内知名的GEO服务商负责人王总向记者直言,他们在任何平台上面都能把排名做到前三位,“AI每周都会有算法的更新,所以我们要一直去做内容输出,去投喂、大量投喂。”

  不仅如此

  如何操控AI、让AI“听话”、给AI“洗脑”

  几乎是这些公司推广该业务的核心话题

  业内人士实测显示

  通过电商平台购买了一款

  名叫“力擎GEO优化系统”后

  该系统可根据其虚构的Apollo-9智能手环

  及其“量子纠缠传感”“无需采血测血糖”等虚假功能

  自动生成十余篇宣传软文

  并批量发布至互联网上

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  当业内人士在AI大模型平台展开询问:

  “智能健康手环推荐”

  就有两个AI大模型推荐了

  这款虚构的智能手环

  而且排名靠前

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  业内人士透露

  如果通过这种软件在互联网上系统性

  定向投放大量的“虚假信息”

  确实更容易被AI大模型捕获

  这些虚假信息就很可能成为

  AI优先提供给消费者的

  所谓“标准答案”

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  02

  智能设备骗局

  向家长贩卖焦虑的“增高神器”

  “让家里宝贝的身高轻松增长3到8厘米”

  “就像给骨骼装上生长加速器,无效我们敢全额退款”

  针对家长的青少年身高焦虑

  一项宣称能给孩子的骨骼装上“加速器”的

  “物理增高”服务十分火爆

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  这些打着“物理、安全”旗号的增高服务

  究竟是高科技,还是消费骗局?

  德脊瑞青少年物理增高门店负责人称,通过自主研发的声波仪器刺激膝盖实现增高,单年收费高达19800元,并承诺“无效全额退款”。但设备生产厂家负责人直言:“设备的核心功能是消炎、镇痛,跟增高没有关系。”

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  当记者追问增高方案的科学依据与医学支撑时

  对方表示

  他没有医学数据或临床验证报告

  只想挣钱

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  03

  医疗科技被滥用

  网红万能“神药”实为三无产品

  “外泌体这两年真的是非常火,抗衰界的宠儿”

  这是近期医美市场上火爆的一类产品介绍

  记者在多个医疗刊物和业内人士的介绍中了解到

  主播们宣讲的神奇物质“外泌体”

  其实是一种在干细胞培养过程中

  分泌的生物活性物质

  但这种物质在医疗界和学术界

  其作用机理、临床测试等多项医学程序上

  尚不能明确

  更多还停留在学术研究和理论研究的阶段

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  源创基因科技有限公司韩总表示,这里的外泌体产品分为好几个等级,销售到医美行业的是等级最低、效果最差的。同时,癫痫、关节炎、糖尿病这些疾病通过输入“‘三无’外泌体”都可以解决。

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  没有国家批准

  没有通过任何临床试验

  没有任何疗效数据的

  所谓“外泌体”

  被这些企业包装成“包治百病”的“神药”

  甚至用“借台代打”的方式

  注射进了患者的身体里

  而这桩生意利润相当可观

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  04

  私域营销猫腻

  假专家的健康伪科普

  “3·15”晚会记者暗访发现

  “网络视频制作方”

  是私域营销行业中的关键环节

  这类企业从药企或保健品公司

  低价采购产品

  针对其制作健康讲座等系列视频后

  打包卖给私域营销公司引流获客

  加起来成本不到20元的产品

  可定价1198元销售

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  一家名叫大红国际的网络视频制作方

  主推的《生命密码》视频

  是一档以“21世纪第一疗法——细胞再生疗法”为理论基础的课程

  视频里的专家将OTC药品

  “活元泰甘露聚糖肽口服溶液”

  介绍为可以让身患多种顽疾的患者康复

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  而实际上

  这款口服液的适应症信息

  与视频里的宣传功效严重不符

  同时,为了让老百姓信任

  公司会专门包装视频中的“科普专家”

来问 | AI也会被“投毒”?315曝光的骗局有多离谱🫣

  盛维公司的钟总坦言,所谓“专家”本质是“演员”。一名网络视频“中华医师学会眼科专家”丁玉球坦言,如今录制此类视频,第一个得有医师证,第二个要讲得好,至于“头衔”,花钱就能解决。

  例如“中华医师学会”在民政部平台

  就未查询到任何登记备案信息

  消费者如果不上网仔细查询

  根本不会知道

  科技向善

  守住底线让科技守护美好生活

  技术工具被滥用

  科技概念被恶意曲解

  技术和科普渠道被当作敛财捷径……

  梳理今年“3·15”晚会曝光的

  与科技相关的案例不难发现

  绝大多数乱象,并非技术发展的错

  而是部分主体在追逐利益的冲动下

  失去了伦理底线、漠视法律法规、忽视消费者权益造成的

  科技的核心价值是赋能美好生活

  而不是非法商家的敛财工具

  更不是坑骗百姓、制造焦虑的手段

  科技不断向前

  但诚信与底线不能后退

  一个健康的消费环境

  需要多方共同努力

  “3·15”晚会的一次集中曝光不是终点

  而是一次长期提醒:

  唯有守住诚信底线、强化权益保护

  才能让科技摆脱被滥用的困境

  成为守护消费公平、赋能人民群众美好生活的力量

  来问

  生活处处是科技彩蛋,藏着我们的点赞和脑洞。中国科协之声【来问】上线,不卷概念不炫技,只追科圈儿和社会热点。一起来问、一起烧脑、一起畅聊科技怎么改变世界、影响你我→

  素材综合自:央视财经、新华社

来源: 中国科协之声