“生病了问AI”,出错了怎么办?

2025-04-01 10:37来源: 法治日报

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  今年3月,一名“95后”新手家长面对孩子反复咳嗽发热的症状,在手机端用AI问诊判定孩子为“普通呼吸道感染”,并参考网络建议居家用药,致病情延误。最终,孩子被医院确诊为病毒感染肺炎。医生指出AI问诊存在一定风险,应以专业医疗意见为准。

  此事引发网络热议。AI癌症早筛、AI肺结核诊断、AI手术机器人、AI导诊机器人……近年来,AI技术已在门诊导诊、临床辅助诊断、疾病管理等环节广泛应用,尤其是今年年初DeepSeek的问世,更是掀起了一股“生病了问AI”的热潮。但也有不少人反映,AI医疗并没有想象中那么靠谱,看错病、看不出病的情况时有发生。

  对于AI医疗,舆论场也涌现出更多的追问,比如:AI医疗是否会影响到医生的地位?如果AI诊断错误,谁来负责?如何保护普通人的医疗数据隐私?如何让AI医疗发展更快、应用更广?

“生病了问AI”,出错了怎么办?

  漫画:李晓军

  AI医疗只是辅助手段

  “AI医疗可以提升医疗服务的效率,已经在疾病预测、健康管理、影像识别等领域表现出色,能够为患者提供较为精准的医疗服务。”中国卫生法学会副会长郑雪倩向记者介绍,在基层或缺乏专家资源的边远贫困地区,可以通过AI进行初步筛查,并为医生提供提示或诊断参考,从而优化医疗资源分配、推动分级诊疗政策落地、提升基层医疗服务能力。

  正因AI医疗彰显出诸多优势和巨大潜力,“AI会不会抢医生饭碗?”“AI医生看病爆火”“AI看病比三甲医院医生还准”……在最近关于AI医疗的网络讨论中,相关话题频繁出圈。“当DeepSeek给出了和主任医师一样的诊断,以后是否还有必要去医院?”近期,这样的疑问也出现在了医患对话中。

  记者采访了多位一线医务工作者,他们均不反对患者使用“AI问诊”。但对“‘AI问诊’的结果是否靠谱”“能否作为诊疗依据”等问题,受访医生都抱着谨慎态度。他们普遍认为,“AI问诊”存在局限,只能作为一种辅助手段,并不能替代医生。

  北京市某社区卫生服务中心的全科大夫周医生坦言,在基层医疗机构平日里遇到疑难杂症的情况不多,更多的是高血压、糖尿病、心脏病等慢性病的老年患者,AI在慢性病随访、慢性病管理上还缺少些“人情味儿”。

  “以预问诊AI为例,有老年患者反映,他有几个晚上睡不好觉导致头疼、心慌,AI就有可能把所有有头疼症状的病都列给医生,其中绝大多数是无效信息。”周医生说,疾病的诊断是一个模糊决策,尤其是在社区这种基层医疗机构,看病的基本是“老熟人”,往往需要医生综合病史、症状等多种信息、根据经验缩小范围下诊断,AI目前在这方面还不够成熟。

  “AI医疗是人工智能在医疗领域的应用,即通过大数据的分析学习,建模,来辅助或优化医生在看病治疗以及健康管理环节的一项技术应用。”在中国卫生法学会常务理事、北京市华卫律师事务所副主任邓利强看来,AI医疗通过机器的学习建模进行数据的分析,让AI反复学习的确可以帮助识别病症,但这种建模本身有数据库的问题,再加上无法把医生的诊疗经验揉到建模里,所以这种智能诊断不可能完全取代医生。

  “AI问诊缺乏人文情感交流,AI开方无人审核,还可能出现误诊、误治和AI医疗的法律主体不明确等问题。因此,AI医疗应当始终定位于医生的辅助工具。”郑雪倩说。

  持谨慎态度划定红线

  随着AI医疗在全国逐步落地,一场医疗领域的巨大变革正在发生。仅今年2月以来,就有不少医院发布其最新应用成果。

  比如,上海瑞金医院发布瑞智病理大模型,AI仅需数秒就能精准识别病理切片中的病灶区域;北京协和医院研发的“协和·太初”罕见病大模型已进入临床应用阶段;上海市肺科医院参与研发的肺部智能手术规划系统,将实际手术规划时间从数天缩短至2到5分钟……

  虽然有多项成果问世,但对于AI医疗,不仅是医生,相关部门也保持谨慎态度。记者梳理公开资料发现,目前针对AI医疗已出台多项限制性措施:湖南省医保局发布通知,禁止使用AI自动生成处方,以维护医保基金安全和患者权益;北京禁用AI自动生成处方,并成立了互联网诊疗监管平台;国家卫健委和国家中医药局联合发布的《互联网诊疗监管细则(试行)》明确规定,人工智能不得替代医师本人提供诊疗服务……

  “这些政策和规定表明,我国在AI医疗领域已经开始划定红线,以确保技术应用的安全性和伦理性。”郑雪倩说,医疗安全底线包括:处方红线,即AI不得自动生成处方,医生必须对诊疗行为负责;伦理红线,即AI应用需遵循医学伦理,确保患者隐私保护、数据安全和公平性;技术红线即AI技术需经过严格的临床验证,确保其在实际医疗环境中的有效性和安全性。

  受访专家明确,即便有AI的辅助,医生仍是最后把关人,如果医生利用AI诊疗出现误诊、漏诊等医疗事故,最终还是由医生承担责任。

  邓利强认为,由于AI医疗存在较多法律风险和合规挑战,这才让相关部门对AI医疗的态度如此谨慎。

  “医疗数据涉及患者的个人隐私,哪些数据可以向研发AI医疗的企业开放并未有明确规定,而且直接针对医疗数据开放的法律法规尚未出台,无法对数据按照统一技术标准进行清洗处理;对AI误诊的责任界定和相应法律纠纷的处理办法同样存在争议;目前国内医疗数据共享不足且缺乏标准规范,制约着AI医疗产业的发展……”邓利强说,正因有诸多问题亟待解决,所以医疗保守绝不是落后,恰恰是对生命的负责。

  应平衡创新加强监管

  AI医疗,今后如何才能更好地发展?

  邓利强说,应平衡AI医疗技术创新与合规监管关系。要强化全流程的资质审查机制,即针对AI医疗和AI处方各个环节的主体都必须有诊疗的资质,这是不能突破的底线。应强化企业的自律与诚信机制的建立,开发和使用AI医疗的企业都必须依法合规。需要明确AI医疗产品的注册、审批、使用和退出流程,并加强对算法透明度、公平性、隐私保护等关键维度的评估与监管。

  郑雪倩建议,应建立伦理审查机制,确保AI技术在医疗领域的应用符合伦理道德要求。还要鼓励社会各界对AI医疗技术进行监督和评价,形成全社会共同参与的监管格局。加大处罚力度,提高违法成本,构建更有效的法律威慑体系。加大正向宣传引导,提高医生和患者对AI技术的接受度是实现技术普及的关键。

  2025中关村论坛年会期间,AI医疗成为与会专家热议话题。与会专家建议,加强监管与伦理指导,制定严格的数据安全和隐私保护政策,设立医疗AI伦理委员会。同时,提高模型透明度,发展可解释AI技术,使大语言模型在医疗决策时能够提供推理过程。例如在肿瘤诊断中,AI需指出影像特征依据,而不是只给结论,还要设定合理的使用范围。大语言模型适用于医学教育、辅助决策和信息检索,但不应直接用于关键诊断或治疗决策,最终决策仍需由专业医生作出。

  “医疗从业人员的确应该积极拥抱发达的技术,但技术对行业本身的冲击以及它是否能实现有温度的医疗,也是我们行业的引领者所需要思考的。我们期待的是,行业参与者冷静思考的心和职业情怀,可以让技术成为帮手,而不是让患者的医疗安全受到影响。”邓利强说。

  作者|法治日报全媒体记者 赵丽 实习生 陈颖

  

[责任编辑: ]
阅读剩余全文(
为你推荐
4月12日,广西柳州市融水苗族自治县举办粤桂协作大苗山踏青茶旅文化活动,茶商和游客欢聚苗乡,赏春色、品春茶、话产业发展。4月12日,广西柳州市融水苗族自治县举办粤桂协作大苗山踏青茶旅文化活动,茶商和游客欢聚苗乡,赏春色、品春茶、话产业发展。
13
4月12日,位于广东深圳的乐聚机器人中试产线正式启用,这是深圳首条人形机器人中试产线。中试产线为人形机器人“试炼场”,旨在加快产品迭代打磨,为后续大批量生产“打样”。经过中试产线工艺验证与“准量产”打磨后的人形机器人,将奔赴佛山,在广东首条万台级人形机器人自动化产线完成生产并下线。
13
4月12日,2026年第二届青海省锅庄舞邀请赛决赛在青海西宁举行。中新社记者 张忠苹 摄   图为决赛现场。中新社记者 张忠苹 摄   图为决赛现场。(无人机照片)中新社记者 张忠苹 摄   图为决赛现场。
13
届中国国际消费品博览会将于4月13日至18日在海南省举办。本届消博会主会场海南国际会展中心共设八大展馆,分为科技消费、时尚潮流、健康消费、全球特色消费、免税与高端精品、国货精品、国潮出海展区。
12
时下,各地春花烂漫,人们纷纷走出家门赏花游园,尽情享受美好春光。时下,各地春花烂漫,人们纷纷走出家门赏花游园,尽情享受美好春光。时下,各地春花烂漫,人们纷纷走出家门赏花游园,尽情享受美好春光。
12
4月11日,在湖北省武汉市汉口站,一只宠物猫等待办理宠物承运手续。记者从中铁快运股份有限公司获悉,自4月8日起,铁路部门在前期高铁宠物托运服务成功试行的基础上,推出“爱宠行”服务,提供“携宠出行”与“爱宠单独行”两种托运模式,办理宠物托运业务的高铁站增至121座、列车增至228趟,更好地满足旅客多样化需求。
12
4月9日,在宁夏青铜峡库区湿地自然保护区丹顶鹤标准化适应性训练场,工作人员为丹顶鹤准备食物。4月9日,8对国家一级保护野生动物丹顶鹤跨越千里,从黑龙江扎龙国家级自然保护区运抵宁夏青铜峡库区湿地自然保护区,开启了黄河流域丹顶鹤种源迁地繁育新篇章。
11
春日暖阳下,北京中山公园内郁金香次第绽放,缤纷艳丽、生机盎然,吸引游客漫步观赏,拍摄定格春日美好景致。春日暖阳下,北京中山公园内郁金香次第绽放,缤纷艳丽、生机盎然,吸引游客漫步观赏,拍摄定格春日美好景致。
11
这是4月9日拍摄的黑龙江北大荒农业股份有限公司友谊分公司水稻田整地作业现场(无人机照片)。天气渐暖,国家粮食主产区黑龙江垦区各地陆续进入水稻春耕作业期,田间地头呈现出一片繁忙景象。
11
历时160天、航程3.4万余海里,中国第42次南极考察队圆满完成各项任务,“雪龙”号于4月9日顺利返航。“雪鹰601”协助转运俄罗斯患病和滞留队员,“雪龙”号应邀协助转运23名韩国考察队员,充分展现了中国作为极地大国的责任与担当。
10
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮