点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“生病了问AI”,出错了怎么办? AI医疗现状调查
首页> 科技频道> 综合新闻 > 正文

“生病了问AI”,出错了怎么办? AI医疗现状调查

来源:法治日报2025-04-01 09:48

  今年3月,一名“95后”新手家长面对孩子反复咳嗽发热的症状,在手机端用AI问诊判定孩子为“普通呼吸道感染”,并参考网络建议居家用药,致病情延误。最终,孩子被医院确诊为病毒感染肺炎。医生指出AI问诊存在一定风险,应以专业医疗意见为准。

  此事引发网络热议。AI癌症早筛、AI肺结核诊断、AI手术机器人、AI导诊机器人……近年来,AI技术已在门诊导诊、临床辅助诊断、疾病管理等环节广泛应用,尤其是今年年初DeepSeek的问世,更是掀起了一股“生病了问AI”的热潮。但也有不少人反映,AI医疗并没有想象中那么靠谱,看错病、看不出病的情况时有发生。

  对于AI医疗,舆论场也涌现出更多的追问,比如:AI医疗是否会影响到医生的地位?如果AI诊断错误,谁来负责?如何保护普通人的医疗数据隐私?如何让AI医疗发展更快、应用更广?

  AI医疗只是辅助手段

  “AI医疗可以提升医疗服务的效率,已经在疾病预测、健康管理、影像识别等领域表现出色,能够为患者提供较为精准的医疗服务。”中国卫生法学会副会长郑雪倩向记者介绍,在基层或缺乏专家资源的边远贫困地区,可以通过AI进行初步筛查,并为医生提供提示或诊断参考,从而优化医疗资源分配、推动分级诊疗政策落地、提升基层医疗服务能力。

  正因AI医疗彰显出诸多优势和巨大潜力,“AI会不会抢医生饭碗?”“AI医生看病爆火”“AI看病比三甲医院医生还准”……在最近关于AI医疗的网络讨论中,相关话题频繁出圈。“当DeepSeek给出了和主任医师一样的诊断,以后是否还有必要去医院?”近期,这样的疑问也出现在了医患对话中。

  记者采访了多位一线医务工作者,他们均不反对患者使用“AI问诊”。但对“‘AI问诊’的结果是否靠谱”“能否作为诊疗依据”等问题,受访医生都抱着谨慎态度。他们普遍认为,“AI问诊”存在局限,只能作为一种辅助手段,并不能替代医生。

  北京市某社区卫生服务中心的全科大夫周医生坦言,在基层医疗机构平日里遇到疑难杂症的情况不多,更多的是高血压、糖尿病、心脏病等慢性病的老年患者,AI在慢性病随访、慢性病管理上还缺少些“人情味儿”。

  “以预问诊AI为例,有老年患者反映,他有几个晚上睡不好觉导致头疼、心慌,AI就有可能把所有有头疼症状的病都列给医生,其中绝大多数是无效信息。”周医生说,疾病的诊断是一个模糊决策,尤其是在社区这种基层医疗机构,看病的基本是“老熟人”,往往需要医生综合病史、症状等多种信息、根据经验缩小范围下诊断,AI目前在这方面还不够成熟。

  “AI医疗是人工智能在医疗领域的应用,即通过大数据的分析学习,建模,来辅助或优化医生在看病治疗以及健康管理环节的一项技术应用。”在中国卫生法学会常务理事、北京市华卫律师事务所副主任邓利强看来,AI医疗通过机器的学习建模进行数据的分析,让AI反复学习的确可以帮助识别病症,但这种建模本身有数据库的问题,再加上无法把医生的诊疗经验揉到建模里,所以这种智能诊断不可能完全取代医生。

  “AI问诊缺乏人文情感交流,AI开方无人审核,还可能出现误诊、误治和AI医疗的法律主体不明确等问题。因此,AI医疗应当始终定位于医生的辅助工具。”郑雪倩说。

  持谨慎态度划定红线

  随着AI医疗在全国逐步落地,一场医疗领域的巨大变革正在发生。仅今年2月以来,就有不少医院发布其最新应用成果。

  比如,上海瑞金医院发布瑞智病理大模型,AI仅需数秒就能精准识别病理切片中的病灶区域;北京协和医院研发的“协和·太初”罕见病大模型已进入临床应用阶段;上海市肺科医院参与研发的肺部智能手术规划系统,将实际手术规划时间从数天缩短至2到5分钟……

  虽然有多项成果问世,但对于AI医疗,不仅是医生,相关部门也保持谨慎态度。记者梳理公开资料发现,目前针对AI医疗已出台多项限制性措施:湖南省医保局发布通知,禁止使用AI自动生成处方,以维护医保基金安全和患者权益;北京禁用AI自动生成处方,并成立了互联网诊疗监管平台;国家卫健委和国家中医药局联合发布的《互联网诊疗监管细则(试行)》明确规定,人工智能不得替代医师本人提供诊疗服务……

  “这些政策和规定表明,我国在AI医疗领域已经开始划定红线,以确保技术应用的安全性和伦理性。”郑雪倩说,医疗安全底线包括:处方红线,即AI不得自动生成处方,医生必须对诊疗行为负责;伦理红线,即AI应用需遵循医学伦理,确保患者隐私保护、数据安全和公平性;技术红线即AI技术需经过严格的临床验证,确保其在实际医疗环境中的有效性和安全性。

  受访专家明确,即便有AI的辅助,医生仍是最后把关人,如果医生利用AI诊疗出现误诊、漏诊等医疗事故,最终还是由医生承担责任。

  邓利强认为,由于AI医疗存在较多法律风险和合规挑战,这才让相关部门对AI医疗的态度如此谨慎。

  “医疗数据涉及患者的个人隐私,哪些数据可以向研发AI医疗的企业开放并未有明确规定,而且直接针对医疗数据开放的法律法规尚未出台,无法对数据按照统一技术标准进行清洗处理;对AI误诊的责任界定和相应法律纠纷的处理办法同样存在争议;目前国内医疗数据共享不足且缺乏标准规范,制约着AI医疗产业的发展……”邓利强说,正因有诸多问题亟待解决,所以医疗保守绝不是落后,恰恰是对生命的负责。

  应平衡创新加强监管

  AI医疗,今后如何才能更好地发展?

  邓利强说,应平衡AI医疗技术创新与合规监管关系。要强化全流程的资质审查机制,即针对AI医疗和AI处方各个环节的主体都必须有诊疗的资质,这是不能突破的底线。应强化企业的自律与诚信机制的建立,开发和使用AI医疗的企业都必须依法合规。需要明确AI医疗产品的注册、审批、使用和退出流程,并加强对算法透明度、公平性、隐私保护等关键维度的评估与监管。

  郑雪倩建议,应建立伦理审查机制,确保AI技术在医疗领域的应用符合伦理道德要求。还要鼓励社会各界对AI医疗技术进行监督和评价,形成全社会共同参与的监管格局。加大处罚力度,提高违法成本,构建更有效的法律威慑体系。加大正向宣传引导,提高医生和患者对AI技术的接受度是实现技术普及的关键。

  2025中关村论坛年会期间,AI医疗成为与会专家热议话题。与会专家建议,加强监管与伦理指导,制定严格的数据安全和隐私保护政策,设立医疗AI伦理委员会。同时,提高模型透明度,发展可解释AI技术,使大语言模型在医疗决策时能够提供推理过程。例如在肿瘤诊断中,AI需指出影像特征依据,而不是只给结论,还要设定合理的使用范围。大语言模型适用于医学教育、辅助决策和信息检索,但不应直接用于关键诊断或治疗决策,最终决策仍需由专业医生作出。

  “医疗从业人员的确应该积极拥抱发达的技术,但技术对行业本身的冲击以及它是否能实现有温度的医疗,也是我们行业的引领者所需要思考的。我们期待的是,行业参与者冷静思考的心和职业情怀,可以让技术成为帮手,而不是让患者的医疗安全受到影响。”邓利强说。(记者 赵丽 实习生 陈颖)

[ 责编:田新宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 山东青岛:小小蓝莓果 致富金豆豆

  • 甘肃敦煌开通两条新航线

独家策划

推荐阅读
主题分享会上发布了“算法向善”南宁宣言,重点互联网企业代表集体签署。
2025-04-01 09:47
今年以来,我国以DeepSeek为代表的大模型企业通过算法优化、有针对性的训练和开源生态协作,在使用“缩水版”GPU芯片的情况下,将千亿参数模型训练成本压缩至同类模型的1/10,走出了一条从粗放式算力堆砌向内生式效能提升的新路径。
2025-03-31 10:21
“联合科研团队初步确定,青龙山恐龙蛋化石普遍表现出特殊排列规律,如常见同层埋藏的恐龙蛋3至5枚一组排列成微微弯曲的弧线,多组弧线近平行展布。
2025-03-31 10:03
由西湖大学孵化的西湖仪器,日前成功实现12英寸碳化硅衬底激光剥离自动化解决方案,大幅降低损耗,提升加工速度,推进了碳化硅行业降本增效。
2025-03-31 10:02
日照两城河口国家湿地公园,一群绿头鸭在水面上自由飞翔。
2025-03-31 10:01
3月28至29日,作为2025中关村论坛年会的重要组成部分,中关村国际技术交易大会“全球高校科技成果转化促进大会”在北京工业大学举行。
2025-03-31 09:59
2025中关村论坛年会于3月27日至31日在北京举办,以“新质生产力与全球科技合作”为年度主题。其中将举办碳达峰碳中和科技、世界绿色设计等论坛,为新质生产力发展注入绿色动能。
2025-03-28 03:30
日前,我国自主研制的最大直径盾构机“沧渊号”成功下线,将承担世界最长公路水下盾构隧道——海太长江隧道工程左线掘进任务。大海古称“沧渊”,海太长江隧道横跨长江入海口,全长39.07公里,其中过江隧道长11.185公里,最大埋深超75米,计划于2028年建成。“沧渊号”开挖直径达16.66米,整机总长176米,总重量超5650吨,再创国产超大直径盾构机新纪录。
2025-03-28 04:00
3月27日,国家重大科技基础设施高能同步辐射光源HEPS正式宣布启动带光联调,这标志着HEPS装置建设进入冲刺阶段。HEPS是设计亮度世界最高的第四代同步辐射光源,也是我国第一台高能量同步辐射光源。截至2025年1月,经过多轮束流调试,HEPS储存环束流强度达到40毫安以上,发射度降低到93皮米弧度。
2025-03-28 04:00
3月27日,以“新质生产力与全球科技合作”为主题的2025中关村论坛年会在北京中关村国际创新中心拉开帷幕。来自100多个国家和地区的上千名嘉宾齐聚一堂,共议前沿科技趋势、共享创新思想、共谋发展机遇。
2025-03-28 03:30
近日,国家卫生健康委会同国家市场监督管理总局发布50项食品安全国家标准和9项标准修改单。截至目前,我国已累计发布食品安全国家标准1660项,包含2万多项指标,涵盖全部340余种食品类别。
2025-03-28 04:00
记者日前获悉,自去年10月全球洲际间断分布的5种崖柏属植物全部落户重庆市开州区崖柏国家林木种质资源库以来,科研团队已成功繁育崖柏实生苗30万株,崖柏扦插苗20万株,
2025-03-27 04:00
职业技能培训对劳动者提技增收、缓解就业矛盾意义重大。党中央、国务院高度重视职业技能培训工作,2024年印发《关于实施就业优先战略促进高质量充分就业的意见》,要求健全终身职业技能培训制度。
2025-03-27 05:10
长期以来,天气预报主要依赖于传统的数值天气预报模型。随着AI技术的突破,气象领域开始应用AI技术提高天气预报以及气候预测水平。2023年,《科学》杂志将“AI辅助天气预报的发展”评为世界科学十大进展,同年我国主导的AI大模型在精细化天气预报中的应用,更被评为中国科学十大进展之首。这些里程碑既展现了大气科学与AI融合的潜力,也为应对极端天气和防灾减灾创造了新机遇。
2025-03-27 05:10
当前,人工智能技术快速迭代并被应用到各行各业,从根本上改变着人类的生产生活。人工智能的发展越快,公众的期待与担忧越是急剧上升。如何平衡推进人工智能应用与治理,如何缩小科技发展带来的数字鸿沟,成为今年论坛上嘉宾热议的焦点之一。
2025-03-27 05:10
近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《办法》)。《办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,将于2025年9月1日起施行。如何让人工智能生成合成内容“亮明身份”,不再“真假难辨”?如何破解人工智能安全治理难题?记者就此进行了采访。
2025-03-27 05:10
当前,人口老龄化问题正在全球范围内加速蔓延,已经成为世界各国必须面对的共同挑战。世界卫生组织数据显示,预计2050年全球60岁以上人口数量将达21亿,其中包括4.26亿80岁以上的老年人。在养老领域,养老机器人不仅可以减轻社会和家庭照料老年人的负担,还可支持老年人享受高质量的居家生活,因此智能养老机器人正逐渐成为世界各国应对人口老龄化挑战的重要技术手段。
2025-03-27 05:10
目前,中国电信积极探索中央企业和国家科研院所的深度合作范式,打通基础研究和成果转化通道,推动量子技术产业化发展。
2025-03-26 10:28
至此,中国空间站舱外航天服已经圆满保障空间站任务以来的19次出舱活动,使用年限次数超出“3年15次”的寿命设计指标。
2025-03-26 10:27
中国人工智能大模型加速“出海”“出圈”,让更多澳大利亚华商和杨东东一样,开始将目光瞄准中国人工智能领域,积极寻找投资机会。
2025-03-26 10:27
加载更多