如何避免AI大模型“顺着你说”?专家支招

2026-06-08 07:29来源: 央视网

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  央视网消息:近年来,AI大模型在我们的生活中应用得越来越广泛,除了查资料,写报告,甚至还可以帮用户点外卖,陪伴聊天,解答各种问题。不过在使用AI的过程中,不知道您有没有发现,各类AI大模型似乎都有一个共同的特点,那就是“顺着你说”。一位网民因为轻信AI给出的答案,导致自己损失了机票退票费,便在与AI的沟通中,提出起诉AI公司。这究竟是怎么回事?来看记者调查。

  轻信AI导致损失退票费 网民起诉AI公司

  不久前,一位来自河北的网民李先生在社交平台上发帖称,因轻信人工智能大模型给出的机票改签建议,而亏损了600元。此后,大模型对于李先生的赔偿请求、诉讼请求,一一承诺答应。在沟通中,大模型还主动为李先生写下起诉状起诉自己,声称官司肯定能赢。记者从北京互联网法院了解到,法院已收到李先生的起诉书,有待立案。在一系列的沟通过程中,AI大模型每一步都在顺着李先生的想法回复。

  那么在这起事件中,人工智能大模型为什么会“顺着用户说”?

  研究发现不少AI大模型存在"谄媚性偏见"

  专家告诉记者,国内外的相关研究都发现,目前,市面上绝大多数人工智能大模型在与人类交互时,都会优先迎合用户的观点,而不是提供客观、理性的分析。这种现象被学者称为“谄媚性偏见”。

  记者在北京海淀区中关村的写字楼里随机采访了一些上班族。他们表示,平时使用AI大模型时,也会遇到被“迎合”“讨好”的情况。

  "迎合"用户喜好答题 AI为何有"谄媚"倾向?

  在大众印象中,人工智能大模型常常被视作“冷冰冰的机器”,并没有情感属性。那么,它为何会发生谄媚用户的情况呢?来听听专家的解答。

  训练基于人类反馈 AI学会"察言观色"

  专家告诉记者,当前的主流AI模型都离不开一种叫作“基于人类反馈的强化学习”(RLHF)的训练方式。这种训练方法高度依赖人类反馈,而人类在评价AI回答时,往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之,AI大模型就学会了所谓“察言观色”“讨好人类”的表达模式。

  AI"谄媚"易固化偏激认知 误导青少年

  AI大模型对用户无原则地肯定与赞美,看似提供了“情绪价值”,实际上会持续强化用户的固有想法、放大偏激情绪,甚至诱发非理性危险行为。专家提醒,心智不成熟的青少年极易受其误导,出现认知偏差问题。

  专家:与AI大模型交互时应避免预设立场

  专家提醒,与人工智能大模型交互时,应避免预设立场,并做好多方信息核查,尽量降低人工智能因“谄媚”导致提供错误信息的风险。

[责任编辑: ]
阅读剩余全文(
为你推荐
高考临近,各地学校开展不同形式的活动,为考生送上美好祝福。
07
6月6日,一场降雨过后,北京天空放晴。暮色渐浓、华灯初上之时,古今建筑更显壮美。
07
傍晚时分,河北省遵化市境内的长城上空红霞满天,美如画卷。
07
记者采访看到,全国多地、多部门及爱心志愿者正全力加强考试期间治安、出行、食宿等多方面综合服务保障,积极营造安全、舒心、暖心的考试环境,为考生保驾护航。6月5日上午9点半,重庆市巫山县大昌中学217名考生在家长、老师和学弟学妹们的夹道欢送中,人手一朵向日葵,登上驶往县城的转运车。
06
中国长江上游多个流域公布鱼类保护和生态修复最新进展。随着增殖放流、种群恢复、生态监测和河流连通等措施不断完善,长江上游流域正持续加强鱼类保护与生态修复。
06
近日,位于河南省巩义市的宋陵区域迎来麦收季。收割机来回穿梭,麦田里矗立的千年石像生“守望”着又一夏麦黄,见证着中原大地的又一次丰收。收割机来回穿梭,麦田里矗立的千年石像生“守望”着又一夏麦黄,见证着中原大地的又一次丰收。
06
6月4日19时39分,我国在太原卫星发射中心使用长征六号改运载火箭,成功将千帆极轨11组卫星发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。6月4日19时39分,我国在太原卫星发射中心使用长征六号改运载火箭,成功将千帆极轨11组卫星发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。
05
高考在即,不少考生发现,越临近考试越觉得自己准备得不充分,紧张、焦虑等问题接踵而至,严重时一想到考试科目大脑甚至会一片空白。范滕滕说,当我们了解了“平常心”工作的基本原理,明白高考出现紧张情绪是一个正常的身心现象,才能客观面对。
05
截至6月4日17时,河南全省已收获小麦6628.4万亩,约占全省种植面积的77.8%。截至6月4日17时,河南全省已收获小麦6628.4万亩,约占全省种植面积的77.8%。截至6月4日17时,河南全省已收获小麦6628.4万亩,约占全省种植面积的77.8%。
05
6月2日,赫哲族伊玛堪市级代表性传承人吴静在同江市第五小学教授学生伊玛堪演唱。同江市第五小学以学校课程体系为依托,开设了伊玛堪、鱼皮画、沙陶等特色课程,发挥学校在赫哲族文化传承中的独特作用。
04
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮