AI为何会一本正经地胡说八道?揭秘→

2026-05-22 18:21来源: 央视一套微信公众号

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  AI杜撰历史、编造法律条文、伪造参考文献的现象已经屡见不鲜。它闯的祸,早已不是简单的“胡说八道”,而是正在成为信息危机的加速器。上个月,全国首例AI幻觉侵权纠纷案正式宣判,标志着AI幻觉已从技术问题,升级为法律和社会问题。当我们的生活和工作越来越依赖大模型时,AI幻觉带来的风险,也正影响越来越多的人。

  到底什么是AI幻觉?为什么AI总能理直气壮地犯错?我们又该如何避免被AI“欺骗”呢?

  AI幻觉,其实是模型机制必然带来的系统性风险。

  首先我们要揭示一个核心真相:AI娓娓道来的背后,本质上是从海量文本里学习词语、句子之间的统计关联,再根据上下文预测下一个最有可能出现的词。打个比方,小朋友认识“苹果”:是看见、摸到、尝到、记住,形成真实世界的概念。而AI认识“苹果”只做一件事——统计词语共现概率。它从海量文本里学到:“苹果”常常和“红”“甜”“脆”等词语一起出现,于是它就能流畅说出:“红苹果口感甜脆。”它不是懂,它只是说得像懂。

  这样问题就来了,当问题过于冷门、专业或者涉及很多细节时,模型在训练语料里缺乏足够案例,它就很难算出可靠的概率,就容易编造内容,这就是幻觉的根源。

  破解AI幻觉,行业主流方案是检索增强生成。让AI回答问题前先检索权威资料,就好像把“闭卷考试”变成“开卷考试”,可大幅降低编造谎言的概率。

  目前最前沿的技术,是让AI自己“吵一吵”,吵出真相。清华大学等单位提出来多智能体辩论框架,相当于让三个AI共同讨论问题,相互质疑、交叉验证,筛选出最可靠的结论。

  对于普通使用者,有两点要注意:一是要巧问,有针对性地问,给AI明确范围、限制、要求,减少它自由发挥;二是要善查,关键信息必须核对,还可以多模型交叉验证。

  AI或许永远无法做到100%没有幻觉,但正是这种“不完美”提醒我们:真正的智能,从来不是“永不犯错”,而是知错能改、尊重事实。

[责任编辑: ]
阅读剩余全文()
为你推荐
届进博会消费品展区以“更高品质,更好生活”为主题。展区内汇集家电家居、美妆日化、时尚潮流、体育户外等消费品,传递健康、美丽、品质、舒适的生活理念,承载人们对美好生活的向往。
09日
这是11月8日拍摄的西渝高铁北碚天府嘉陵江特大桥(中)建设现场(无人机照片)。11月8日,西渝高铁北碚天府嘉陵江特大桥顺利合龙,为全线如期通车奠定坚实基础。11月8日,西渝高铁北碚天府嘉陵江特大桥顺利合龙,为全线如期通车奠定坚实基础。
09日
立冬过后,部分地区出现降雪天气,人们在雪后来到户外、踏雪游玩。立冬过后,部分地区出现降雪天气,人们在雪后来到户外、踏雪游玩。立冬过后,部分地区出现降雪天气,人们在雪后来到户外、踏雪游玩。
09日
11月5日,第九届中国国际进口博览会在上海开幕。本届进博会上,中国馆以“开创新局面 共赢新未来”为主题,紧扣“十五五”新蓝图,呈现未来视角、全球视野、开放胸怀。本届进博会上,中国馆以“开创新局面 共赢新未来”为主题,紧扣“十五五”新蓝图,呈现未来视角、全球视野、开放胸怀。
06日
这是11月5日在三亚南山港拍摄的“雪龙2”号极地科考破冰船(无人机照片)。11月5日,“雪龙2”号极地科考破冰船在三亚南山港科考码头进行停靠补给并举行公众开放日活动。11月5日,“雪龙2”号极地科考破冰船在三亚南山港科考码头进行停靠补给并举行公众开放日活动。
06日
金秋时节,京城美景如画。金秋时节,京城美景如画。金秋时节,京城美景如画。金秋时节,京城美景如画。金秋时节,京城美景如画。金秋时节,京城美景如画。金秋时节,京城美景如画。
06日
平陆运河通航以来,水上观光热度不断攀升,不少游客乘船穿行河道,近距离感受运河风貌。新华社记者 曹祎铭 摄  11月4日,游客在平陆运河观光游船上拍摄马道枢纽。
05日
11月4日,第140届中国进出口商品交易会(广交会)闭幕,记者从广交会承办方中国对外贸易中心了解到,截至3日,来自219个国家和地区的35.2万名境外采购商到会,较上届增长12.2%,规模再创历史新高。
05日
11月4日,在拉萨那曲完全中学,洛桑次成(左)老师在给西藏那曲市巴青县岗切乡小学四年级一班的孩子上复学第一课。11月4日,受巴青地震影响的西藏那曲市巴青县玛如乡小学、岗切乡小学千余名学生,在拉萨那曲完全中学开启异地复学。
05日
在刚刚结束的达喀尔青奥会武术项目男子长拳全能决赛中,中国选手林益磊夺得冠军。这是奥林匹克系列赛事历史上首枚武术金牌。11月3日,中国选手林益磊在长拳比赛中。新华社记者 孙非 摄
04日
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮