AI机器人会考试,不会看病

2025-01-07 09:57来源: 中国科学报

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  一项新研究发现,虽然先进的人工智能(AI)模型在专业医学考试中得分很高,但在通过与患者交谈从而诊断疾病方面仍然不及格。1月2日,相关研究成果发表于《自然-医学》。

  美国哈佛大学的Pranav Rajpurkar说:“虽然大型语言模型在测试中的表现令人印象深刻,但在动态对话中,它们的准确性明显下降,尤其是难以进行开放式诊断推理。”

  研究人员开发出一种方法,基于模拟医患对话评估“临床AI”模型的推理能力。这些“患者”基于2000个医疗案例。这些案例主要来自美国医学委员会的专业考试。

  同样来自哈佛大学的Shreya Johri说:“模拟医患互动可以评估病史采集技能,这是临床实践的一个关键组成部分。”她表示,新的评估基准被称为CRAFT-MD,“反映了现实生活中的情况,即患者可能不知道哪些细节是至关重要的,只有在回答特定问题时才会披露重要信息”。

  CRAFT-MD基准本身依赖于AI。美国OpenAI公司的GPT-4模型在与被测试的“临床AI”的对话中扮演了“患者AI”的角色。GPT-4还通过将“临床AI”的诊断结果与每个病例的正确答案进行比较来评分。人类医学专家对这些评估进行了复核。他们还审查了对话,以检查“患者AI”的准确性,并查看“临床AI”是否成功收集了相关的医疗信息。

  多项实验表明,4种领先的大型语言模型——OpenAI的GPT-3.5和GPT-4、美国Meta公司的Llama-2-7b和法国Mistral AI公司的Mistral-v2-7b,在基于对话的基准测试中的表现远不如根据书面摘要进行诊断时的表现。

  例如,当提供结构化的病例摘要并允许从多项答案中作出选择时,GPT-4的诊断准确率高达82%,而没有多项选择时,其诊断准确率则降至49%以下。然而,当它不得不通过与模拟的患者对话进行诊断时,准确率降至26%。

  在这项研究中,通常GPT-4是表现最好的模型,GPT-3.5次之,Mistral-v2-7b排在第三位,Llama-2-7b得分最低。

  AI模型在大多数情况下未能收集完整的病史,比如GPT-4仅在71%的模拟患者对话中做到了这一点。即使AI模型收集了患者的相关病史,它们也并不总是能够作出正确的诊断。

  美国斯克利普斯研究转化研究所的Eric Topol表示,模拟患者对话代表了一种比医学考试“更有用”的评估AI临床推理能力的方法。

  Rajpurkar说,即使一个AI模型最终通过了这一基准,能够根据模拟的患者对话持续作出准确诊断,也并不一定意味着它就优于人类医生。他指出,现实世界中的医疗实践比模拟的“更混乱”,涉及管理多名患者、与医疗团队协调、进行身体检查,以及了解当地医疗情况中“复杂的社会和系统因素”。“AI是支持临床工作的强大工具,但不一定能取代经验丰富的医生的整体判断。”Rajpurkar说。 (文乐乐)

  相关论文信息:

  https://doi.org/10.1038/s41591-024-03328-5

  《中国科学报》 (2025-01-07 第2版 国际)

[责任编辑: 李欣哲 ]
阅读剩余全文(
为你推荐
这是2月15日拍摄的2025宁夏(银川)春季首场开门红万人特大型招聘会现场。当日,2025宁夏(银川)春季首场开门红万人特大型招聘会在宁夏体育馆举行。当日,2025宁夏(银川)春季首场开门红万人特大型招聘会在宁夏体育馆举行。
16
2月14日,在海南三亚的国家南繁科研育种基地里,青岛海水稻研究发展中心的科研人员张书艮对水稻进行管护(无人机照片)。
16
当日是周六,人们纷纷来到国家图书馆读书、学习,充实周末生活。
16
实践二十五号卫星发射升空,国产大飞机C919开启沪港定期商业航班,“华龙一号”漳州核电1号机组投入商业运行……从广袤西部到南方海滨,新质生产力热潮持续涌动,勾勒出中国经济新图景。新华社发(漳州核电供图)  2024年11月6日在位于重庆市两江新区的赛力斯超级工厂拍摄的新能源汽车(无人机照片)。
15
在上海徐汇滨江,“乐滑之梦”和西岸梦中心联手打造的户外水岸冰场热闹非凡。伴随节奏感强的音乐和灵动灯光,上海市民周雄和儿子手牵手,在冰面上练习滑行。
15
2月14日晚,在北京市海淀区的UME国际影城(华星店),家长带着孩子挑选电影纪念品。新华社记者 才扬 摄  2月14日,在北京市海淀区的UME国际影城(华星店)里拍摄的《哪吒2》电影海报。
15
当日,由西成客专陕西公司建设、铁一院勘察设计、中国铁建大桥局施工的西延高铁铜川隧道顺利贯通,标志着西延高铁全线隧道全部贯通。西延高铁线路全长约299公里,设计时速350公里,是我国“八纵八横”高铁网包(银)海通道的重要组成部分。项目建成后,西安至延安的运行时间将从目前的2.5小时缩短至1小时左右。
14
当日,在贵州省安顺市境内,作业人员操纵架桥机,将重约135吨的32米T梁成功架设在斗篷山特大桥30-31号桥墩间。新建沪昆铁路至安六铁路客车联络线成功上跨既有沪昆铁路,工程建设取得进展,为项目早日建成通车奠定基础。
14
2月13日,中国国产动画电影《哪吒之魔童闹海》(《哪吒2》)正式迈入百亿票房俱乐部,成为全球影史首部在单一市场突破100亿元人民币(约14亿美元)的动画电影。
14
当日,在四川省泸州市泸县,来自四川省内外龙舞队和泸县20个镇(街道)特色龙舞队同台竞演、巡游,让群众欢度元宵佳节的同时感受传统文化魅力。当日,在四川省泸州市泸县,来自四川省内外龙舞队和泸县20个镇(街道)特色龙舞队同台竞演、巡游,让群众欢度元宵佳节的同时感受传统文化魅力。
13
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮