第一个展示其工作的人工智能乳腺癌侦探

第一个展示其工作的人工智能乳腺癌侦探
大多数用于在乳房 X 光检查中发现癌前病变的 AI 并没有揭示他们的任何决策过程(上图)。如果他们这样做了,它通常是一个显着图(中间),它只告诉医生他们在看哪里。一个新的 AI 平台(底部)不仅告诉医生它在看哪里,还告诉医生它使用了哪些过去的经验来得出结论。图片来源:杜克大学的 Alina Barnett

杜克大学的计算机工程师和放射科医生开发了一个人工智能平台,用于分析乳房 X 光检查中潜在的癌性病变,以确定患者是否应该接受侵入性活检。但与它的许多前辈不同,该算法是可解释的,这意味着它可以准确地向医生展示它是如何得出结论的。

研究人员训练人工智能定位和评估病变,就像训练真正的放射科医生一样,而不是让它自由地开发自己的程序,使其比“黑匣子”同行具有几个优势。它可以成为一个有用的培训平台,教学生如何阅读乳房 X 光检查图像。它还可以帮助世界各地人口稀少地区不定期阅读乳房 X 光检查的医生做出更好的医疗保健决策。

结果于 12 月 15 日在线发表在Nature Machine Intelligence 杂志上。

杜克大学放射学教授 Joseph Lo 说:“如果计算机要帮助做出重要的医疗决策,医生需要相信人工智能的结论是建立在有意义的事情上的。” “我们需要的算法不仅可以工作,而且可以解释自己并展示他们得出结论的示例。这样,无论医生是否同意结果,人工智能都有助于做出更好的决定。”

读取医学图像的工程 AI 是一个巨大的产业。已经存在数千种独立算法,FDA 已批准其中 100 多种用于临床。然而,无论是阅读 MRI、CT 还是乳房 X 线照片扫描,它们中很少有人使用包含 1000 多张图像或包含人口统计信息的验证数据集。信息的匮乏,加上最近几个著名例子的失败,导致许多医生质疑人工智能在高风险医疗决策中的使用。

在一个例子中,即使研究人员使用不同设备从不同设施拍摄的图像对其进行训练,人工智能模型也会失败。AI 不再只关注感兴趣的病变,而是学会了使用设备本身引入的细微差异来识别来自癌症病房的图像,并赋予这些病变更高的癌变概率。正如人们所预料的那样,人工智能并没有很好地转移到使用不同设备的其他医院。但是因为没有人知道算法在做决定时在看什么,所以没有人知道它在现实世界的应用中注定会失败。

“我们的想法是建立一个系统来说明潜在癌性病变的这个特定部分看起来很像我以前见过的另一个,”计算机科学博士 Alina Barnett 说。杜克大学的候选人和该研究的第一作者。“如果没有这些明确的细节,如果无法理解为什么它有时会出错,医生就会失去时间和对该系统的信心。”

杜克大学电气与计算机工程和计算机科学教授 Cynthia Rudin 将新 AI 平台的流程与房地产评估师的流程进行了比较。在该领域占主导地位的黑匣子模型中,评估师会提供房屋价格而根本没有任何解释。在包含所谓的“显着性地图”的模型中,评估师可能会指出房屋的屋顶和后院是其定价决策的关键因素,但不会提供除此之外的任何细节。

“我们的方法会说你有一个独特的铜屋顶和一个后院游泳池,与你附近的其他房屋相似,这使得它们的价格上涨了这么多,”鲁丁说。“这就是医学成像 AI 的透明度可能看起来的样子,也是医学领域的人应对任何放射学挑战的要求。”

研究人员用杜克大学卫生系统的 484 名患者拍摄的 1,136 张图像对新 AI 进行了训练。

他们首先教人工智能找到有问题的可疑病变,并忽略所有健康组织和其他不相关的数据。然后,他们聘请放射科医生仔细标记图像,以教导 AI 专注于病变的边缘,潜在肿瘤与周围健康组织相遇的地方,并将这些边缘与已知癌症和良性结果的图像中的边缘进行比较。

放射线或模糊边缘,医学上称为肿块边缘,是癌性乳腺肿瘤的最佳预测指标,也是放射科医生寻找的第一件事。这是因为癌细胞复制和扩张速度如此之快,以至于在乳房 X 光照片中并非所有正在发育的肿瘤边缘都容易看到。

“这是一种训练 AI 如何查看医学图像的独特方法,”Barnett 说。“其他人工智能并没有试图模仿放射科医生;他们正在想出自己的方法来回答通常没有帮助的问题,或者在某些情况下,依赖于有缺陷的推理过程。”

训练完成后,研究人员对人工智能进行了测试。虽然它的表现并没有超过人类放射科医生,但它的表现与其他黑匣子计算机模型一样好。当新的 AI 出现错误时,使用它的人将能够认识到它是错误的以及它为什么会犯错。

展望未来,该团队正在努力为 AI 添加其他物理特征,以便在做出决策时考虑,例如病变的形状,这是放射科医生学习观察的第二个特征。Rudin 和 Lo 最近还获得了 Duke MEDx 高风险高影响奖,以继续开发该算法并进行放射科医生读者研究,看看它是否有助于临床表现和/或信心。

“当研究人员第一次开始将 AI 应用于医学图像时,人们非常兴奋,也许计算机能够看到人们无法看到的东西或找出一些东西,”杜克放射学研究员 Fides Schwartz 说。“在极少数情况下可能会出现这种情况,但在大多数情况下可能并非如此。因此,我们最好确保作为人类的我们了解计算机用来做出决策的信息。”

本文为作者 何斌 独立观点,并不代表 我是CIO 立场。

发表评论

登录后才能评论