npj Digital Medicine | 临床诊断中多模态AI的评估

星标“医工学人”，第一时间获取医工交叉领域新闻动态~

“Anthropic 的 Claude 3 系列在评估的人工智能模型中表现出最高的准确率，超过了人类的平均准确率，人类的集体决策则优于所有人工智能模型。GPT-4 Vision Preview 表现出选择性，用较小的图像和较长的问题更多地回答较容易的问题。”

8月7日，npj digital medicine 期刊发表简短通讯文章，这项研究评估了多模态人工智能模型在回答 NEJM 图像挑战问题时的准确性和响应能力，并与人类集体智慧进行了对比，强调了人工智能在临床诊断方面的潜力和当前局限性。

GPT – 4等大型语言模型 (LLM) 快速融入各个领域，需要在医学诊断等专门任务中进行评估。最近评估 GPT-4V 和类似模型可行性的研究已经证明了它们在临床环境中增强人类专业知识的潜力。这些进步有望带来变革潜力，例如简化获得医疗诊断的途径。

然而，它们也带来了可靠性方面的挑战并引发了道德问题。此外，LLM 多模态功能的兴起要求重新评估它们的能力，而不仅仅是文本上下文和临床问题的解释。最近一项评估放射学多模态性能的研究表明，放射成像中病理的检测仍然不准确。然而，该分析仅针对 GPT-4V 进行，因此无法对多模态 LLM 的性能做出总体陈述。另一方面，在呈现的 NEJM 案例研究中的诊断过程比单一专业的放射学解释更复杂和多样化，需要整合不同的信息。先前关于这个主题的研究对大型语言模型的诊断准确性显示出不同的结果。提示、使用的模型、专业和使用的特定数据集似乎都会影响结果。这导致结果不稳定，目前限制了对这些模型诊断准确性的评估。

随着图像分析功能的引入，现在有机会为这些模型提供更多信息，并创建更真实的医疗病例表示。

NEJM图像挑战数据集与响应能力

该研究的数据显示，自 2005 年 10 月 13 日开始的 NEJM 图像挑战赛参与度很高，截至 2023 年 12 月 13 日，945 例病例共收到超过 8500 万份回复。每个问题的平均回复数为 90,679（SD = 32,921；中位数 = 88,407；范围 = 13,120–233,419）。正确回答医疗病例的平均投票百分比为 49.4%（SD = 13.6%；中位数 = 49%；范围 = 16–88%），反映了病例问题固有的不同难度级别。问题的长度从 4 到 128 个字不等，平均为 28.5 个字，表明提供的额外临床信息范围各不相同。NEJM 图像挑战赛中分析的医学图像的分辨率范围很广，大小从 0.57 到 5.95 兆像素不等。这些图像的平均分辨率为 202 万像素，这表明，向 AI 模型和公众呈现的图像细节和质量存在相当大的差异。

虽然所有开源模型以及 Anthropic 的 Claude 3 系列专有模型都回答了所有查询，但专有的 GPT-4 Vision Preview（例如，“抱歉，我无法提供医学诊断或解释医学图像。[…]”）仅回答了 76%（n = 718）的案例。GPT-4 Vision Preview 更倾向于回答以人类参与者平均正确率（p = 0.033）衡量的较简单的问题，以及图像较小（p < 0.001）和问题文本较长（p < 0.001，图1）的问题。Bard Gemini 1.0 Vision Pro 仅因未知原因（“block_reason：OTHER”）未能回答一个问题（0.11%）。

图 1：GPT-4V 答案状态与图像像素数、问题长度和参与者平均正确率。（来源：npj digital medicine）

准确性与GPT-4V回答问题的选择性

在所有 AI 模型中，Anthropic 模型脱颖而出，实现了最高的准确率（在 945 个问题中的58.8% （n = 556 个）到 945 个问题中的59.8% （n = 565 个）之间），大大超过了参与者的平均投票数（49.4%， p < 0.001）约 10%。该研究观察到，由多数票决定的集体人类决策（其中 7 个平局算作错误答案）正确回答了 90.8%（n = 858）的病例，揭示了群体智能在医学多模态诊断方面的能力，并且大大超越了所有测试过的多模态模型（图2）。

考虑四个最佳模型（所有 Claude 3 模型以及 GPT-4 1106 Vision Preview）的模型多数票并未显示与最佳模型 Claude 3 Haiku 有任何改进（ p = 0.96）。有趣的是，Haiku 是 Claude 3 系列中最小、最快的模型，与最大、功能最强的模型 Opus 相比，它回答的正确率高出 6 个问题，尽管差异在统计上并不显著（p = 0.8）。

图 2：多模态模型在医学图像分析中的准确性（来源：npj digital medicine）

OpenAI 的旗舰模型在响应行为中的这种辨别力，凸显了限制性审核政策对闭源 AI 模型造成的潜在限制。这种选择性，特别是当大多数临床问题尽管经过审核仍得到答复时，令人质疑这些限制措施的有效性及其对科学评估的影响。

有趣的是，这种行为似乎对较简单的问题、图像较小的问题和包含较长文本描述的问题有选择性。为了提高透明度，开发人员应清楚地说明对某些查询不响应的原因（例如，不合适的图像材料或非匿名患者照片的隐私问题，或者只是为了使模型对齐以免出错，宁愿不回答问题也不愿错误地回答问题）。为研究人员引入具有扩大访问权限和更少限制模型的专门账户可能是支持该领域研究的有益方法，同时确保符合道德和安全标准。

这些观察结果表明，在超越纯文本分析的医学多模态领域中，人工智能具有良好的能力，但同时也存在一些局限性，例如错误性和限制性响应性。在多项研究中，人工智能在医学多模态领域表现得远远超过了人类的能力。

人工智能在医疗诊断中的能力

所有 Claude 3 模型在正确性方面都超越了 OpenAI 的 GPT-4 Vision Preview，并且没有否认任何问题，这可能表明 Anthropic 的训练方法更加一致。总的来说，该研究已经表明通用模型非常适合回答高度具体的医学知识问题，甚至超过了参与者的平均正确率。

在该研究中，Claude 3 Haiku 获得了最高的准确率。在另一项研究中也观察到了类似的结果，其中纯文本的 GPT-4 在诊断 NEJM 病例1时优于 99.98% 的模拟人类读者——尽管只包含 38 个病例，这一结果在使用 GPT-4 Vision Preview 进行的多模态图像挑战分析中没有复制。人类集体智慧以 90.8% 的准确率超越了所有 AI 模型，这与 James Surowiecki 提出的概念一致。

总体而言，这些发现对 AI 在医学诊断领域的未来充满希望，特别是在皮肤病学等领域，癌症检测的自动化正显示出越来越多的科学兴趣。最近发表的一项荟萃分析表明，人工智能检测皮肤癌的准确率大大超过全科医生，且表现可与经验丰富的皮肤科医生相媲美。

此外，另一项分析发现，使用人工智能模型可以实现 90% 以上的皮肤癌检测准确率。这些结果表明，人工智能在特定诊断任务（如皮肤癌检测）中的分析能力大大超过在更一般的多模态分析中观察到的能力。事实证明，由于实施不一致，旨在防止非专业人员进行自我诊断的安全机制不足。该研究和其他研究的结果表明，虽然人工智能可以显著支持医疗诊断和培训并简化医疗服务，但将其融入临床实践需要采取谨慎、认真和透明的方式，并必须进行监管监督。

透明度和欧盟监管环境

就在最近，欧盟议会通过了《欧盟人工智能法案》，这是一项具有里程碑意义的立法，旨在通过根据风险级别对人工智能应用进行分类来规范人工智能。该法案对高风险人工智能系统（包括医疗保健领域使用的系统）提出了严格的要求。

该法规要求透明度、稳健性和人工监督，确保人工智能系统安全且合乎道德地运行。对于医疗人工智能，《欧盟人工智能法案》强调人工智能决策过程必须有清晰的记录、可追溯性和可问责制。它还强调了严格测试和验证以满足高准确性和可靠性标准的重要性。

该研究中分析的开放模型在这里具有明显的优势，因为它们具有公开可用的模型权重，并且通常有所使用的训练代码和数据集的良好记录，从而促进了《欧盟人工智能法案》所要求的透明度和可追溯性。

评估挑战和未来研究方向

所评估的多模态模型并非为医疗任务专门设计的，虽然它们的性能很有希望，并且通用模型已经显示出强大的迁移学习能力，但有必要对专门的、经过微调的大型语言模型进行研究。临床试验对于验证多模态人工智能在临床常规中的能力至关重要。

此外，由于无法访问训练数据集和模型架构，专有模型缺乏全面的安全审查。专有模型训练数据缺乏透明度，这使得人们不确定这种评估是否符合真正的零样本场景，这表明可能存在“数据集污染”，即图像或问题可能包含在模型的训练数据集中。相反，开源模型的透明度可能有助于进行更可靠的安全评估。此外，多项选择题格式的结构化性质可能无法完全捕捉现实世界临床环境中遇到的复杂性，因为诊断并不局限于预先确定的选项。

最后，值得注意的是，当配置不同的参数时，单个模型可能会产生不同的响应。在该研究中，每个模型均未进行任何参数调整来评估基本能力。

随着人工智能模型的快速发展，它们在增强医学诊断方面具有巨大的前景，其潜力超越了传统的以文本为中心的应用，涵盖了多模式数据集。然而，本文的研究结果支持谨慎乐观的态度，并呼吁对这些工具的功能进行细致入微的评估。建立负责任的部署的强大框架对于患者安全至关重要。人工智能在医学领域的未来取决于合作努力，以提高其可靠性和合乎道德的应用，目标是补充而不是取代人类的专业知识。

▼扫码阅读英文原文