医疗人工智能的前景和陷阱正朝着我们前进

当手术团队陷入僵局时，一名患者躺在手术台上。他们找不到肠道破裂。外科医生大声问道：“检查我们是否错过了过去15分钟视觉馈送中任何肠道切片的视图。人工智能医疗助理开始审查患者过去的扫描并实时突出显示手术的视频流。当团队跳过手术中的某个步骤时，它会提醒他们，并在外科医生遇到罕见的解剖学现象时阅读相关的医学文献。

在人工智能的帮助下，所有学科的医生可能很快就能够在所有医疗保健数据和每篇在线发表的医学文献的背景下快速查阅患者的整个医疗档案。由于最新一代的人工智能模型，医生办公室的这种潜在的多功能性现在才成为可能。

“我们看到医疗人工智能领域的范式转变即将到来，”斯坦福大学工程学院计算机科学教授Jure Leskovec说。“以前，医疗人工智能模型只能解决医疗保健难题中非常小、狭窄的部分。现在我们正在进入一个新时代，在这个高风险领域，更多的是关于更大的拼图。

斯坦福大学的研究人员及其合作者将通才医疗人工智能(GMAI)描述为一类新的医疗人工智能模型，这些模型知识渊博、灵活且可在许多医疗应用程序和数据类型中重复使用。他们对这一进展的看法发表在12月<>日的《自然》杂志上。

Leskovec和他的合作者记录了GMAI将如何解释来自成像，电子健康记录，实验室结果，基因组学和医学文本的不同数据组合，远远超出了ChatGPT等并发模型的能力。这些GMAI模型将提供口头解释，提供建议，绘制草图和注释图像。

“由于人类医生的高度专业化以及信息流动缓慢而参差不齐，今天医学中发生的许多低效率和错误，”共同第一作者Michael Moor说，他是一名医学博士，现在是斯坦福工程学院的博士后学者。“通才医疗人工智能模型的潜在影响可能是深远的，因为它们不仅仅是自己狭窄领域的专家，而且在各个专业领域拥有更多能力。

医学无国界

在FDA批准的500多种临床医学AI模型中，大多数只执行一两个狭窄的任务，例如扫描胸部X光片以寻找肺炎的迹象。但基础模型研究的最新进展有望解决更多样化和更具挑战性的任务。“令人兴奋和突破性的部分是，通才医疗人工智能模型将能够摄取不同类型的医疗信息 - 例如，成像研究，实验室结果和基因组学数据 - 然后执行我们指示他们执行的任务在飞行中完成，”Leskovec说。

“我们希望看到医疗人工智能的运作方式发生重大变化，”摩尔继续说道。“接下来，我们将拥有设备，而不仅仅是执行一项任务，可以完成一千项任务，其中一些任务在模型开发过程中甚至没有预料到。

作者还包括哈佛大学的Oishi Banerjee和Pranav Rajpurkar，耶鲁大学的Harlan Krumholz，多伦多大学的Zahra Shakeri Hossein Abad和斯克里普斯研究转化研究所的Eric Topol，概述了GMAI如何应对各种应用，从与患者的聊天机器人到笔记，一直到医生的床边决策支持。

作者提出，在放射科，模型可以起草放射学报告，直观地指出异常，同时考虑到患者的病史。放射科医生可以通过与GMAI模型聊天来提高他们对病例的理解：“你能突出显示任何新的多发性硬化症病变吗?

在他们的论文中，科学家们描述了将GMAI发展成为值得信赖的技术所需的其他要求和能力。他们指出，该模型必须消耗所有个人医疗数据以及历史医学知识，并且仅在与授权用户交互时才引用它。然后，它需要能够与患者进行对话，就像分诊护士或医生一样，以收集新的证据和数据或建议各种治疗计划。

对未来发展的关注

在他们的研究论文中，合著者讨论了能够完成1项医疗任务的模型的含义，该模型有可能学到更多。“我们认为医学通才模型的最大问题是验证。我们怎么知道模型是正确的，而不仅仅是编造的?”莱斯科维奇说。

他们指出了ChatGPT语言模型中已经发现的缺陷。同样，人工智能生成的教皇穿着设计师蓬松外套的图像也很有趣。“但是，如果存在高风险的场景并且AI系统决定生死，那么验证就变得非常重要，”摩尔说。

作者继续认为，保护隐私也是必要的。“这是一个巨大的问题，因为对于像ChatGPT和GPT-4这样的模型，在线社区已经确定了越狱当前保护措施的方法，”摩尔说。

“破译数据和社会偏见也给GMAI带来了巨大的挑战，”Leskovec补充道。GMAI模型需要能够专注于给定疾病的因果信号，而忽略仅与结果相关的虚假信号。假设模型大小只会变大，Moor指出，早期研究表明，较大的模型往往比较小的模型表现出更多的社会偏见。“这些模型和供应商的所有者和开发商有责任，特别是如果他们在医院部署它们，真正确保这些偏见在早期得到识别和解决，”摩尔说。

“目前的技术非常有前途，但仍有很多缺失，”Leskovec同意。“问题是，我们能否确定当前缺失的部分，例如事实验证，对偏见的理解以及答案的可解释性/合理性，以便我们为社区提供一个议程，说明如何取得进展以充分发挥GMAI的巨大潜力?”