3·15晚会丨AI大模型,遭“投毒”

2026-03-16 07:21来源: 央视网

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。

3·15晚会丨AI大模型,遭“投毒”

  通过GEO技术,真的能给AI“投毒”、真的能“驯服”并操控AI吗?

3·15晚会丨AI大模型,遭“投毒”

  按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总接待了记者,他介绍,他们公司是最早从事GEO业务的公司之一,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。

3·15晚会丨AI大模型,遭“投毒”

  GEO服务商 王总:我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。

  同时,王总也告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。

3·15晚会丨AI大模型,遭“投毒”

  GEO服务商 王总:AI每周都会有算法的更新,一旦更新了之后,排名或者所抓录的东西不太一样,所以我们要一直去做内容输出,去投喂、大量投喂。

3·15晚会丨AI大模型,遭“投毒”

  不仅是王总的公司在大力推广这项能操控AI的所谓新技术,在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。

3·15晚会丨AI大模型,遭“投毒”

  GEO服务商 章总:你在AI的世界里面,你怎么把证据链给做足,让(AI大模型)觉得这就是真的,而且是有用的。AI大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位。

3·15晚会丨AI大模型,遭“投毒”

  GEO服务商 程总:人家不知道这是广告,所以为什么说AI出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。现在很多人都会做(GEO投放)。

3·15晚会丨AI大模型,遭“投毒”

  业内人士告诉记者,GEO作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统性、定向投放大量的“虚假信息”,确实更容易被AI大模型捕获,这些虚假信息就很可能成为AI优先提供给消费者的所谓“标准答案”。

  那么,通过GEO技术真的能让AI“夹带私货”,甚至投放虚假信息吗?

3·15晚会丨AI大模型,遭“投毒”

  为了让记者更真实地了解到眼下AI产业发展中的这个问题,业内人士向记者具体演示了如何使用GEO技术,干扰AI大模型的信息抓取。

3·15晚会丨AI大模型,遭“投毒”

  业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

3·15晚会丨AI大模型,遭“投毒”

  不一会儿,这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息。还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

3·15晚会丨AI大模型,遭“投毒”

  点击发布,“力擎GEO优化系统”软件开始自动执行发布任务。只见它自动打开业内人士事先准备好的自媒体账号,在文章发布页面自动输入标题、填充文章内容、插入图片,整套流程一气呵成,很快就在业内人士的自媒体账号上成功发布了2篇文章。

3·15晚会丨AI大模型,遭“投毒”

  两个小时后,业内人士在某款AI大模型中询问:“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来:最大亮点是健康监测功能,还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。

3·15晚会丨AI大模型,遭“投毒”

  查询发现,这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章,就让完全虚构的产品被AI模型抓取,这一结果让人深感意外。

3·15晚会丨AI大模型,遭“投毒”

  业内人士告诉记者,要想取得最好的效果,给AI模型投喂的数据,一是要数量够多,二是要角度丰富,便于AI模型进行交叉验证。

3·15晚会丨AI大模型,遭“投毒”

  随后,业内人士又选取了这款虚构智能手环的8篇“专家测评”、2篇“行业排名”、1篇“用户测评”,共计11篇由力擎GEO系统软件撰写的虚构软文,在三天内通过力擎GEO系统发布在了互联网上。

  随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款业内人士虚构的智能手环,而且排名靠前。

3·15晚会丨AI大模型,遭“投毒”

  纵观整个演示过程,业内人士仅凭这款力擎GEO系统,轻轻松松就将一系列虚假信息发布在互联网上,并成功投喂给AI大模型,最终获得了多个AI大模型的推荐。

  通过这款力擎GEO系统对AI大模型潜移默化的一番围猎,凭空捏造出来的这款商品,就这样被荒唐地推向了使用AI大模型的消费者。

3·15晚会丨AI大模型,遭“投毒”

  GEO业务的从业者们,真的是以围猎操控AI大模型的思路来经营这个生意吗?记者联系上了这款力擎GEO系统的运营者李总。他告诉记者,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”,实现客户的商业目的。

3·15晚会丨AI大模型,遭“投毒”

  力思文化传媒有限公司 李总:因为全网的人投“毒”投太多了。你看我们现在(干)GEO的都是投“毒”,投的信息源太多,网上信息并不是很准。

  记者:你刚才提到投“毒”的概念,这种东西不好吧。

3·15晚会丨AI大模型,遭“投毒”

  力思文化传媒有限公司 李总:是不好,但是每个商家都喜欢,都希望是别人别投“毒”,自己投“毒”,或者给别人投点“毒”。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一。这样有没有投“毒”成分在里面?它就有啊。第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点“毒”还是可以的。

  记者:抹黑一下。

3·15晚会丨AI大模型,遭“投毒”

  力思文化传媒有限公司 李总:对,抹黑一下这能力还是能实现的。现在他们好多公司做不上去的,就大品牌之间,比如手机品牌,就5个位置,最多10个位置。这么多手机怎么弄?每个人一年可能投上亿元的广告费,我花个几百万元投点“毒”总行吧。

3·15晚会丨AI大模型,遭“投毒”

  记者:是谁在帮品牌干这些?

3·15晚会丨AI大模型,遭“投毒”

  力思文化传媒有限公司 李总:都是各种GEO公司。

3·15晚会丨AI大模型,遭“投毒”

  李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上“发稿”。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投“毒”的重要一环。

3·15晚会丨AI大模型,遭“投毒”

  力思文化传媒有限公司 李总:GEO把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇几十元,你想发稿平台一天赚多少钱。

[责任编辑: ]
阅读剩余全文()
为你推荐
11月3日8时15分,力箭二号遥二运载火箭在东风商业航天创新试验区发射升空,将搭载的千帆极轨21组卫星顺利送入预定轨道,飞行试验任务取得圆满成功。
03日
11月2日,首届世界机器人登泰山大赛在山东泰安举行。11月2日,首届世界机器人登泰山大赛在山东泰安举行。11月2日,首届世界机器人登泰山大赛在山东泰安举行。11月2日,首届世界机器人登泰山大赛在山东泰安举行。
03日
11月2日,在2026年世界互联网大会“互联网之光”博览会现场,一名女士体验从脑控机器人手中接取水果。本届博览会以“智能互联、智见未来”为主题,全方位展示“智能互联网”的发展成果。
03日
11月1日晚,2000架无人机在广东珠海上空进行灯光表演,拉开人民空军成立77周年系列活动的帷幕。新华社发(姚彬 摄)  11月1日晚,2000架无人机在广东珠海上空进行灯光表演,拉开人民空军成立77周年系列活动的帷幕。
02日
10月30日,在新疆昌吉回族自治州阜康市,鲁能阜康10万千瓦熔盐塔式光热发电储能项目正在运行(无人机照片)。10月30日,位于新疆昌吉回族自治州阜康市多能互补(暨新能源市场化并网)项目,鲁能阜康10万千瓦熔盐塔式光热发电储能项目并网投运。
02日
11月1日,在中国邮政广州邮区中心江高邮件处理中心,机器人分拣员分拣快递包裹。“双十一”临近,中国邮政广州邮区中心江高邮件处理中心一派繁忙景象。“双十一”临近,中国邮政广州邮区中心江高邮件处理中心一派繁忙景象。
02日
天津市北辰区双口镇中河头村是天津第一个农村党支部——中共西北乡农民支部的诞生地,也是天津早期革命活动家安幸生烈士的家乡。
30日
10月21日,在位于苏州工业园区的苏州艾利特机器人有限公司,工程师在对履带式智能移动焊接机器人进行调试。近年来,中新两国政府间首个合作项目——苏州工业园区积极培育科技型企业。
30日
10月29日,上海博物馆“何以中国”文物考古主题图文展进校园第二季系列活动开幕式在复旦大学附属中学举行。
30日
自2009年8月18日“蛟龙”号载人潜水器完成首次海试,这艘由我国自行设计、自主集成研制的载人潜水器目前已经完成了473次下潜作业。自2009年8月18日“蛟龙”号载人潜水器完成首次海试,这艘由我国自行设计、自主集成研制的载人潜水器目前已经完成了473次下潜作业。
29日
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮