在COVID-19疫情期间,全国各地的医院都在极端压力下运作。随着患者数量激增,医生倦怠情况日益严重,而长期以来被容忍的低效率问题突然带来了即时后果。
虽然已经存在工具和技术来应对许多这些运营挑战,特别是围绕临床文档方面,但医疗保健的性质使得新技术何时以及如何引入变得复杂。对于ZyDoc Medical Transcription的首席技术官Nick F. Hernandez来说,这场危机暴露了医疗保健创新的一个基本限制。即使经过验证的技术承诺能带来缓解,引入它的行为也带有风险,而这种风险往往首先由临床医生承担,最终由患者承担。
"时机往往被视为技术或运营问题,但实际上它是一个伦理问题," Hernandez说。"通过等待完美时刻,我们可能无意中保留了已经让依赖它们的人失望的系统。"
为了在疫情期间支持医疗保健专业人员,ZyDoc这家专注于临床文档和工作流程效率的早期公司,免费提供其技术,以帮助减少消耗稀缺临床时间的文档负担。"这不是关于产品采用或收入," Hernandez说。"而是关于经过验证的技术是否能在危机期间有意义地帮助临床医生照顾更多患者。"
许多医院选择在危机期间继续使用现有系统,而不是引入新工具。这是一个可以理解且在运营上可辩护的决定,但对Hernandez来说很有启发意义。它澄清了他的观点,即医疗保健领域有效的技术领导需要预测新技术将如何落地,以及谁将首先感受到其影响。
"我不只是问,这在技术上合理吗,或者这是低风险的吗?" 他说。"我问的是,什么都不做的代价是什么,谁承担这个代价?"
在自动化和判断之间划清界限
随着医疗保健组织考虑自动化的好处和风险,这个问题变得越来越紧迫。在以更少资源做更多事情的压力下,人工智能经常被定位为解决方案本身。Hernandez认为这种定位过于简单化,并且可能存在风险。
"最困难的决定不是关于什么可以自动化," 他说。"而是关于什么应该自动化。" AI系统在减少认知负荷和处理重复性任务方面很有效,但它们不像人类那样理解背景、问责制或伦理后果。在软件开发和临床支持中,令人印象深刻的AI输出可能会掩盖小错误,如果不加以控制,这些错误会累积成系统性风险。
"AI应该减少认知负荷和行政负担," Hernandez说,"但不应在问责制、伦理和信任至关重要的地方取代人类判断。"
保护人才管道
推动自动化也造成了一个不太明显的问题。随着组织越来越依赖由AI增强的资深专业人员,初级和入门级职位正在消失。
"我们越来越依赖由AI增强的资深人才,同时消除了创造未来资深人才的职位," Hernandez说。"这不仅仅是劳动力问题。这是安全和韧性问题。" 负责任的创新意味着设计保留学习途径的系统。
医疗保健系统依赖于随着时间推移和接触现实世界复杂性而发展的判断。AI可以加速经验丰富的专业人员,但它不能取代学习过程或理解系统为何以这种方式运作。如果不刻意投资于人力发展,组织可能在短期内变得高效,但同时削弱了对专业和社会福祉至关重要的专业知识。
经得起现实考验的创新
在监管和临床压力下提供创新,要求医疗技术提供商拿出最好的表现。Hernandez依靠三种做法来平衡创新与安全、严谨以及对部署技术的临床环境的尊重。
一是抵制过度工程化。在医疗保健领域,为每个边缘案例设计可能会在临床医生看到价值之前就停滞进展。Hernandez倾向于明确阻止不安全行为并继续前进的受限早期版本,并理解系统可以随着现实世界需求的出现而演变。
"不要让完美成为优秀的敌人," 他说。"临床医生现在需要价值,而不是几个月后的理论完整性。"
另一个最佳实践是密切关注谁没有发言。工程师和临床医生通常会早期发现风险,但并不总是感到安全或受邀提出这些风险。为这些声音创造空间有助于揭示在日常工作流程中容易被忽视的盲点。
Hernandez还建立团队时预期复杂问题没有单一正确答案。通过在早期鼓励分歧并从多个角度对想法进行压力测试,团队能快速揭示权衡,并在承诺走某条道路之前避免虚假的确定性。
CTO作为系统管理者
随着技术周期加速,Hernandez看到CTO角色从首席架构师转变为系统管理者。工具不断变化,团队受到压缩,期望不断扩大。风险在于为即时生产力而优化,同时侵蚀维持长期韧性的基础。
"AI可以加速经验丰富的专业人员,但它不能取代学习、判断力建立或理解系统为何以这种方式运作," Hernandez说。
有效的技术领导者将认识到,保护人类能力现在是一项核心责任。投资于判断、背景和伦理推理的组织将随着工具的发展保持韧性。那些不这样做的组织可能会发现自己拥有高度自动化的系统,但没有人真正理解它们。
在LinkedIn上关注Nick Hernandez以获取更多见解。
