新研究:人工智能生成内容不准确与失语症类似

2025-05-20 14:17来源: 新华网

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  新华社北京5月20日电(记者李雯)尽管人工智能生成内容已非常流畅,但提供的信息很多时候还是不准确。日本研究人员近日在德国《先进科学》杂志发表的一项研究成果显示,这一问题与人类的语言障碍——失语症类似。新研究成果可以为研究人员改进人工智能提供参考。

  智能体、聊天机器人等基于人工智能的工具正越来越多地应用于日常生活。考虑到人工智能模型在提供信息时表现出“高度自信”,如果用户对所讨论主题或领域缺乏足够了解,会很容易把其中的错误信息当成正确的。

  为此,日本东京大学研究人员使用了一种名为“能量景观分析”的方法。这种方法最初由物理学家开发,旨在使磁性金属中的能量状态可视化,最近应用于神经科学。研究人员检查了不同类型失语症患者在静息状态下的大脑活动模式,并将其与几个公开可用的人工智能大语言模型的内部数据比较。

  失语症患者可能会很流利地说出一些毫无意义或难以理解的话。研究人员发现,人工智能与此有相似之处。在这些人工智能模型中,数字信息或信号的流动和运作方式与某些失语症患者一些大脑信号的行为方式极为相似。

  研究人员说,人工智能模型在出现严重错误时仍表达流畅,这与感觉性失语症的症状有相似之处,即说话流利却总说不出什么意思。这并不意味着聊天机器人有“脑损伤”,但它们可能被锁定在一种僵化的内部模式中,限制其灵活运用所储存知识,就像得了感觉性失语症。

  研究人员表示,对神经科学来说,这项研究提供了一种可能的新方法,可以根据大脑内部活动而不仅是外部症状来分类和监测失语症等疾病;对人工智能研究来说,这将帮助研究人员从内到外改进人工智能系统的架构。

[责任编辑: ]
阅读剩余全文(
为你推荐
重庆市石柱土家族自治县冷水镇地处渝鄂交界的武陵山区,平均海拔约1400米,森林覆盖率85%,生态资源丰富。
15
甘肃省陇南市地处秦岭和岷山两大山系交会地带,崇山峻岭间孕育出花椒、油橄榄、茶叶、柑橘等一大批特色农产品。甘肃省陇南市地处秦岭和岷山两大山系交会地带,崇山峻岭间孕育出花椒、油橄榄、茶叶、柑橘等一大批特色农产品。
15
12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。
15
12月13日,人们在侵华日军南京大屠杀遇难同胞纪念馆参加“烛光祭”活动。入夜,各界人士在侵华日军南京大屠杀遇难同胞纪念馆集会,为南京大屠杀死难者举行“烛光祭”,寄托哀思,祈愿和平。
14
12月13日,深圳地铁首次试点启用智能导盲犬“小蒜”,以科技为视障人士地铁出行提供便利。12月13日,深圳地铁首次试点启用智能导盲犬“小蒜”,以科技为视障人士地铁出行提供便利。
14
12月13日,哈尔滨极地公园举行“淘学企鹅巡游世纪大换班”活动,100只南极企鹅集体巡游,场面壮观,吸引众多市民和游客前来观赏。12月13日,哈尔滨极地公园举行“淘学企鹅巡游世纪大换班”活动,100只南极企鹅集体巡游,场面壮观,吸引众多市民和游客前来观赏。
14
雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。
13
12月10日,在新海港和南港“二线口岸”(货运)集中查验场,海口海关所属海口港海关关长翁裕忠(左三)在讲解查验流程。目前,准备工作进入最后阶段,海关工作人员抓紧调试监管设施,演练相关流程,“备战”封关。
13
这是12月12日在印度新德里拍摄的联合国教科文组织保护非物质文化遗产政府间委员会第20届常会现场。联合国教科文组织保护非物质文化遗产政府间委员会第20届常会12日决定,将于2026年11月30日至12月5日在中国厦门举办委员会第21届常会。
13
北京时间2025年11月14日23时37分,正在执行中国第42次南极考察任务的中国极地固定翼飞机“雪鹰601”飞抵南极俄罗斯新拉扎列夫站,成功完成对1名俄罗斯南极考察站病员的转运与救援。
12
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮