医院上线AI聊天机器人,医生们吵翻了!

编者按:美国医疗系统正掀起AI聊天机器人的热潮,旨在缓解患者看病难、候诊时间长的痛点。据调查,约四分之一美国人已尝试用AI获取健康建议,而偏远社区每周通过AI发送近60万条医疗消息。然而,医生对AI的临床辅助作用意见不一,隐私、准确性等争议不断。本文带你走进这场医疗变革的前沿,探讨AI能否真正成为医患之间的“桥梁”。以下为原文编译,保留核心事实与观点。

全美医疗系统正纷纷推出新型人工智能(AI)聊天机器人,旨在帮助患者解答医疗问题并更快获得预约,以满足人们对快速健康指导的需求日益增长。然而,医生们对此技术的推广仍存在分歧。

一些人看到了患者使用临床AI平台提问的积极面,而另一些人则警告,必须维持严格标准以限制潜在风险。

康涅狄格州的哈特福德医疗公司最近为患者推出了由临床AI公司K Health开发的“患者GPT”聊天机器人;而加州的萨特健康公司和服务于印第安纳州与俄亥俄州的里德健康公司,则推出了由医疗软件公司Epic开发的聊天机器人Emmie。

根据盖洛普民意调查,约25%的美国人曾使用AI工具或聊天机器人获取健康信息或建议,主要将其作为护理的补充工具。OpenAI在1月的一份报告显示,“医疗资源不足的农村社区”用户每周平均发送近60万条医疗信息。

与此同时,美国的医院候诊时间日益恶化。AMN Healthcare 2025年的一份报告显示,患者现在平均需等待一个月才能看医生,比2022年增加了19%。

OpenAI表示,由于对快速、便捷健康指导的需求增长,他们正推出集成在ChatGPT中的专用健康机器人“ChatGPT Health”。如今,医院也开始涉足该技术,转向专为临床环境设计的内部AI工具。

新临床AI聊天机器人如何工作

萨特健康公司和里德健康公司推出的Emmie,是集成在Epic安全患者门户MyChart中的AI助手。Epic研发总监特雷弗·贝尔索告诉《新闻周刊》,Emmie旨在“帮助患者理解和管理自己的护理”。

他表示,Emmie解决了数百万美国人使用商用AI聊天机器人回答医疗问题时遇到的若干挑战,例如回答未考虑患者的病史,以及AI公司可能如何使用其医疗数据的担忧。

由于Emmie与患者的医疗记录集成,它的回答会“考虑患者的病史”,贝尔索说。这也意味着患者分享的信息受到《健康保险携带和责任法案》的保护,该联邦法律对个人医疗信息的隐私和安全有严格标准。

萨特健康公司首席数字官劳拉·威尔特表示,因此患者将能获得“Emmie中针对其个人和健康状况的答案”,这与其他商用AI助手不同。

贝尔索说,Emmie的主要用途是回答化验结果、咨询后问题、一般健康查询以及寻求建议。不过他补充说,像任何AI工具一样,“人们不应仅根据Emmie的输出做出治疗决定”。

“Emmie的作用是帮助他们更好地了解自身健康状况,以便他们能与护理人员进行知情的讨论,”他说。

缩短预约等待时间

K Health首席执行官阿隆·布洛赫告诉《新闻周刊》,“患者GPT”也能访问患者的医疗记录。该平台允许患者在不同部分建立个人资料,包括药物、近期检查结果和病史,该平台的一个演示视频显示。

布洛赫还表示,该平台让患者能够全天候在线预约医生。他说,根据需求,患者最快可在15分钟内获得预约,或者更容易在晚上或临床时间之外获得预约。

他说之所以可能做到这一点,是因为“我们为医生做了很多工作”,因为平台可以收集患者的问题并提取医疗记录,使医生更易审查患者的健康问题。

“医生光阅读一份医疗记录可能就需要20分钟,更不用说进行医疗接诊了,”他说。“现在一切都准备好了,医生可以直接使用。”

他补充说,他认为这是一个“全球性的机会”,因为该技术有能力简化全球医疗行业面临的问题,如协调患者文档、预约和处方。

哈特福德医疗集团医学中心总裁帕德马纳班·普雷姆库马尔博士告诉《新闻周刊》,“与缺乏临床背景或明确终点的通用聊天机器人不同,我们的平台设计有结构化的临床路径。”这些路径意味着聊天机器人在“安全生态系统”中了解患者的具体病史,从而“在有需要时将其分诊至医生预约或适当的临床资源”。

医院引用早期积极反馈

推广仍处于早期阶段,但普雷姆库马尔表示,他们已经收到一些反馈,表明患者“重视这种提高的可及性以及简化复杂医疗导航的能力”。

“我亲自使用过该平台,发现它非常有益,甚至推荐给了我的家人,”哈特福德医疗公司执行副总裁兼首席临床官阿贾伊·库马尔博士告诉《新闻周刊》。

他认为,“如果隐私和HIPAA标准得到全面维护,‘患者GPT’能为患者增加显著价值。”

“当以负责任和安全的方式实施时,AI可以帮助患者更好地理解其医疗信息,并引导他们获得适当的护理,”他说。“在这些条件下,我支持这类创新。”

隐私和幻觉问题呢?

美国人对AI越来越持怀疑态度,超过一半的人口担心该技术传播误导性内容和信息的风险。在医疗领域,误导性医疗信息可能带来严重后果,尤其是当患者仅寻求AI建议而不选择与医生沟通时。

当被问及这些潜在担忧时,K Health首席执行官布洛赫表示,重要的是要记住,即使是“医生也会犯医疗错误”,而且“我们谈论的并非一个零错误的系统”,但如果患者无法获得高质量的医疗信息,或因等待时间长而避免向医生咨询问题,结果可能“更糟”。

贝尔索说,在Epic,“我们在提示词和情境工程上投入了大量精力,以确保准确输出”,并且公司拥有“强大的自动化测试套件,运行数千种组合测试”。他表示,这些措施让他们能够“每天监控和验证Emmie的输出,避免模型漂移等影响准确性的问题”。

关于数据隐私问题,他补充说,HIPAA的规定保护了患者与Emmie分享的信息,因为根据法律,医疗系统必须确保患者信息安全,“就像对待其余医疗记录一样”,这使其与消费者聊天机器人区分开来。

库马尔承认,如果“没有强有力的治理和适当的安全措施”,这些聊天机器人被用于回答医疗问题“会令人担忧”。

“然而,我们的方法需要通过既定研究协议进行严格分析,并接受多学科AI治理结构的监督,”他说。“这让我有信心,风险得到了仔细评估和管理。”

医生怎么看

医生们似乎对此意见不一:一些人认为这是医疗行业的积极进步,另一些人则担忧其带来的问题。

斯坦福大学医学教授尼加姆·沙阿告诉《新闻周刊》,他认为这对医疗行业来说是“净正面”的举措。

“诊所关门后,护理需求不会停止,而急诊室并不适合处理很多护理需求,”他说,并补充说这些工具“弥合了紧急护理关闭与第二天诊所开门之间的空白”。

不过,他表示这些工具“并非完美,会犯错误”,并指出需要提出如何有效监控这些工具的问题。

约翰斯·霍普金斯大学计算机科学与健康政策教授苏奇·萨里亚告诉《新闻周刊》,同样重要的是这些工具所遵循的标准。

“相同的技术可能显著改善护理,也可能悄然引入风险,这取决于其构建、验证和监控的严格程度,”她说。“在医疗领域,问题不在于是否会发生错误,而在于这些错误如何在造成伤害之前被快速发现和纠正。”

这意味着监控尤为重要,萨里亚说,“我们需要摒弃‘面向患者的AI可以低于标准运行’的想法”,因为“如果某个工具正在影响患者的理解、决策或行为,它应与其他临床工具遵循相同的标准”,她补充说,目前情况并非总是如此。

这些AI聊天机器人最终是缓解压力过大的医疗系统的压力,还是引入新的风险,可能更多地取决于医院如何谨慎地监控、管理并将其融入临床护理,而不是取决于技术本身。

本文由吉伊网原创发布,未经许可,不得转载!
本文链接:http://www.jkiyi.com/biz/20598.html

联系我们

在线咨询:

邮件:sooting2000@qq.com