在 Healthcare Dive 虚拟活动上发言的行业专家表示★★✿，医疗保健组织必须仔细审查人工智能工具★★✿、解决患者担忧并关注标准和法规★★✿。

　　医疗保健机构在采用人工智能工具方面面临诸多障碍★★✿。提供商必须解决患者的担忧★★✿，而付款人和其他生命科学公司则 在如何平衡效率承诺与偏见等道德问题上苦苦挣扎★★✿。

　　他们这样做都是因为承诺人工智能将实现机械任务的自动化★★✿、减少医疗支出和浪费★★✿、让临床医生有更多时间照顾患者并改变医疗保健行业★★✿。

　　然而★★✿，专家在11 月 19 日 由 Healthcare Dive 主办的小组讨论 会上表示★★✿，在生成式人工智能通过 ChatGPT 受到公众欢迎两年多之后九游会官网J9★★✿，医疗保健领域仍在追赶如何监管★★✿、测试和实施这些工具的步伐★★✿。

　　在决定是否集成 AI 工具时★★✿，提供商应采取的第一步是评估将使用该工具的临床环境★★✿。梅奥诊所平台医疗总监 Sonya Makhni 表示★★✿，并非每种工具都适合诊所中的每项任务★★✿。

　　“一种人工智能算法可能非常适合我的临床环境大同烟草商务平台大同烟草商务平台★★✿，但可能不适合其他环境★★✿，反之亦然★★✿，”马赫尼 说★★✿。“医疗系统需要了解……要寻找什么★★✿，他们需要了解患者群体j9九游会★★✿，★★✿，这样他们才能自己做出明智的决定九游会j9★★✿，★★✿。”

　　她补充说★★✿，尽管提供商必须评估人工智能工具★★✿，但由于算法和模型难以理解★★✿，他们在分析这些工具时面临着巨大的障碍★★✿。

　　“我们的劳动力已经很紧张了★★✿，”马赫尼 说★★✿。“我们真的不能指望每个人都去获得数据科学或人工智能硕士学位大同烟草商务平台★★✿，才能解释解决方案★★✿。”

　　为了解决这一问题★★✿，服务提供商在评估人工智能工具时应该向公共和私人联盟（如非营利性 健康人工智能联盟 ）寻求指导原则★★✿。

　　“我们已经学到了很多关于解决方案应该遵循哪些原则的知识九游会j9官方网站★★✿，★★✿，”马赫尼说大同烟草商务平台★★✿。“所以机器人应用★★✿，★★✿，安全性★★✿、公平性★★✿、实用性★★✿、透明度★★✿、可解释性★★✿、隐私性★★✿，你知道★★✿，当我们审视人工智能解决方案时九游会官网J9九游会官网J9★★✿，我们应该用这些东西作为视角★★✿。”

　　随着人工智能工具越来越受欢迎★★✿，患者对医生办公室使用的技术表示了保留意见★★✿。去年★★✿，60% 接受调查的美国成年人告诉皮尤研究中心★★✿， 如果他们的医疗服务提供者依赖人工智能 进行医疗护理★★✿，他们会感到不舒服★★✿。

　　为了让患者更舒服★★✿，普罗维登斯医疗系统首席医疗信息官莫林·沙阿表示★★✿，临床医生应该 强调★★✿，目前人工智能只起到纯粹的支持作用★★✿。

　　沙阿说★★✿：“从很多方面来说九游会官网J9★★✿，人工智能实际上是一种为 医生提供决策支持的更好方式★★✿，这样他们就不会错过任何细节★★✿，或者可以提出建议★★✿。”

　　尽管人工智能工具才刚刚开始受到大众的欢迎九游会官网J9★★✿，但患者可能会因为知道人工智能在医疗领域早已存在而感到更加安心★★✿。

　　大西洋健康系统首席医疗信息官 Aarti Ravikumar 指出★★✿，人工胰腺或闭环混合胰岛素泵等变革工具已成为胰岛素依赖患者的“游戏规则改变者”★★✿。

　　“所有这些工作都是使用人工智能算法完成的★★✿，” 拉维库马尔说大同烟草商务平台九游会官网J9★★✿。“所以我们的医疗设备或电子病历中嵌入了人工智能工具人工智能★★✿，★★✿，而且这种做法已经持续了很长时间★★✿。”

　　“这些工具都不会让临床医生脱离这种互动或医疗决策★★✿，”拉维库马尔说★★✿。“如果我们到了自动化决策并将临床医生从决策过程中移除的阶段★★✿，我认为我们肯定必须做出更多解释★★✿。”

　　每个组织在集成 AI 模型时都必须解决小问题★★✿。但在医疗保健领域★★✿，风险更高j9九游会官方网站★★✿，★★✿，因为偏见和幻觉★★✿，或者 AI 工具产生虚假或误导性信息★★✿，都可能导致患者护理中断★★✿。

　　医疗服务提供者并不是唯一一个面临偏见的医疗机构★★✿。 付款人因使用人工智能工具拒绝提供医疗服务而遭到强烈反对 ★★✿，科技公司也被指责 开发了加剧现有医疗差距的工具 ★★✿。

　　谷歌云医疗保健全球总监 Aashima Gupta 表示★★✿，对于生成式人工智能公司来说★★✿，让人类参与其 中至关重要★★✿，包括来自专家★★✿、护士或临床医生等用户的反馈★★✿。

　　人工智能公司还应该彻底测试他们的模型★★✿。在谷歌★★✿，专门的团队试图通过诡计来破解人工智能工具九游会官网J9★★✿，比如试图提示问题的错误答案★★✿。她补充说★★✿，稳健的开发和让人类参与其中与控制错误“齐头并进”★★✿。

　　然而★★✿，咨询公司麦肯锡的合伙人 杰西·兰姆表示★★✿，虽然组织应该对错误和偏见保持谨慎★★✿，但人工智能工具可能代表着尝试减轻医疗保健偏见的机会★★✿。

　　“在引入人工智能之前★★✿，医疗保健系统中存在大量偏见★★✿，对吧？所以我们必须记住★★✿，我们并不是从一个完美的地方开始的★★✿，”兰姆说九游会官网J9★★✿。“我们实际上可以使用人工智能★★✿，并使用一些有意识的监控来实际改善我们在医疗保健偏见方面所处的一些现状★★✿，我认为这实际上是一个巨大的机会★★✿。”

　　她补充道★★✿：“谈到使用人工智能时★★✿，我们总是谈论偏见带来的下行风险★★✿，但实际上我认为这也有很大的好处★★✿，可以减轻我们在系统中看到的一些现有偏见★★✿。”

　　尽管联邦政府在尝试规范这些工具方面取得了逐步进展★★✿，包括通过 制定规则 ★★✿，但该行业的标准仍处于早期阶段★★✿。

　　美国卫生与公众服务部技术政策助理部长兼代理首席人工智能官米基·特里帕蒂 (Micky Tripathi) 表示★★✿，与两年前人工智能成为主流时相比★★✿，人工智能的采用速度很快★★✿，这加大了政府制定监管法规的压力★★✿。

　　Tripathi 还想知道★★✿，什么时候法规才能迫使私营企业采用自己的工具标准和认证★★✿。在该行业的另一个领域★★✿，政府 为电子健康记录公司提供申请自愿认证的标准 ★★✿。

　　“例如自动化流程★★✿！★★✿，什么因素会促使普罗维登斯医疗集团等机构感到有必要使用或获得某种认证或某种批准……来自提供某些 AI 模型验证服务的组织？”他说★★✿。“目前★★✿，对于开发这些解决方案的开发人员或实施这些解决方案的提供商组织来说★★✿，这仅仅是一笔纯粹的成本★★✿。”

　　普罗维登斯首席战略和数字官 Sara Vaezy 表示★★✿，虽然联盟可以为人工智能提供高级框架★★✿，但组织也需要开放标准来帮助从基层解决临床人工智能用例★★✿。

　　“如今的挑战是★★✿，联盟与我们的工作进展相差甚远★★✿，我们需要迅速缩小差距★★✿。我认为我们可以做到这一点的方法之一是通过创建开放标准大同烟草商务平台★★✿，”她补充道★★✿。

　　咨询公司 Virtue 创始人兼首席执行官 Reid Blackman 表示★★✿，培训提供商需要与制定标准同时进行★★✿。它还可以帮助填补与人工智能相关的法规或治理方面的空白大同烟草商务平台★★✿。

　　布莱克曼说★★✿：“培训是必不可少的一部分★★✿，我不想说是护栏★★✿，但它是确保事情不会出错的重要组成部分★★✿。”