一項(xiàng)最新的研究表明，機(jī)器學(xué)習(xí)和AI在醫(yī)學(xué)圖像重建中非常不穩(wěn)定，并且可能導(dǎo)致誤報(bào)和誤報(bào)。

由劍橋大學(xué)和西蒙弗雷澤大學(xué)領(lǐng)導(dǎo)的一組研究人員針對(duì)基于AI和深度學(xué)習(xí)的醫(yī)學(xué)圖像重建算法設(shè)計(jì)了一系列測(cè)試，發(fā)現(xiàn)這些技術(shù)會(huì)導(dǎo)致大量偽像或數(shù)據(jù)中的不必要更改，以及最終圖像中的其他主要錯(cuò)誤。在基于非AI的成像技術(shù)中通常不存在這種效果。

這種現(xiàn)象廣泛分布在不同類型的人工神經(jīng)網(wǎng)絡(luò)中，這表明該問題將不容易解決。研究人員告誡說，依靠基于AI的圖像重建技術(shù)進(jìn)行診斷并確定治療方法可能最終會(huì)對(duì)患者造成傷害。他們的結(jié)果發(fā)表在《美國(guó)國(guó)家科學(xué)院院刊》上。

劍橋大學(xué)應(yīng)用數(shù)學(xué)系主任安德斯·漢森(Anders Hansen)表示：“ 人們對(duì)醫(yī)學(xué)成像中的 AI充滿熱情，它可能具有革新現(xiàn)代醫(yī)學(xué)的潛力：但是，存在潛在的陷阱，不容忽視。”理論物理學(xué)，由西蒙·弗雷澤大學(xué)的本·阿德考克博士領(lǐng)導(dǎo)研究。“我們發(fā)現(xiàn)AI技術(shù)在醫(yī)學(xué)成像中非常不穩(wěn)定，因此輸入的微小變化可能會(huì)導(dǎo)致輸出的巨大變化。”

典型的MRI掃描可能需要15分鐘到兩個(gè)小時(shí)之間的任何時(shí)間，具體取決于掃描區(qū)域的大小和所拍攝圖像的數(shù)量?；颊咴跈C(jī)器內(nèi)花費(fèi)的時(shí)間越長(zhǎng)，最終圖像的分辨率就越高。但是，需要限制患者在機(jī)器內(nèi)花費(fèi)的時(shí)間，以減少單個(gè)患者的風(fēng)險(xiǎn)并增加可以執(zhí)行的掃描總數(shù)。

使用AI技術(shù)提高M(jìn)RI掃描或其他類型醫(yī)學(xué)成像的圖像質(zhì)量是解決在最短時(shí)間內(nèi)獲得最高質(zhì)量圖像的問題的有吸引力的可能性：理論上，AI可以拍攝低分辨率圖像并使其成為高分辨率版本。AI算法基于先前數(shù)據(jù)的訓(xùn)練來“學(xué)習(xí)”重建圖像，并通過此訓(xùn)練過程來優(yōu)化重建質(zhì)量。與僅基于數(shù)學(xué)理論而不依賴先前數(shù)據(jù)的經(jīng)典重建技術(shù)相比，這代表了根本性的變化。特別是，古典技術(shù)不會(huì)學(xué)習(xí)。

任何AI算法都需要兩件事來保證可靠性：準(zhǔn)確性和穩(wěn)定性。AI通常會(huì)將貓的圖像分類為貓，但是圖像中幾乎看不見的微小變化可能會(huì)導(dǎo)致算法將貓分類為卡車或桌子。在此圖像分類示例中，可能出錯(cuò)的一件事是圖像分類不正確。但是，在圖像重建(例如醫(yī)學(xué)成像中使用的圖像重建)方面，可能會(huì)出錯(cuò)。例如，諸如腫瘤之類的細(xì)節(jié)可能會(huì)丟失或被錯(cuò)誤地添加。細(xì)節(jié)可能被遮蓋，并且圖像中可能會(huì)出現(xiàn)不需要的偽影。

漢森說：“當(dāng)涉及到有關(guān)人類健康的關(guān)鍵決策時(shí)，我們不能讓算法犯錯(cuò)誤。” “我們發(fā)現(xiàn)，如果您使用AI和深度學(xué)習(xí)來重建醫(yī)學(xué)圖像，那么最細(xì)微的損壞(例如可能是由患者移動(dòng)引起的)可能會(huì)產(chǎn)生截然不同的結(jié)果，這意味著這些算法缺乏所需的穩(wěn)定性。”

Hansen及其來自挪威，葡萄牙，加拿大和英國(guó)的同事設(shè)計(jì)了一系列測(cè)試，以發(fā)現(xiàn)基于AI的醫(yī)學(xué)成像系統(tǒng)(包括MRI，CT和NMR)的缺陷。他們考慮了三個(gè)關(guān)鍵問題：與微小擾動(dòng)或運(yùn)動(dòng)相關(guān)的不穩(wěn)定性;關(guān)于微小結(jié)構(gòu)變化的不穩(wěn)定性，例如帶有或不帶有小腫瘤的大腦圖像;以及樣本數(shù)量變化的不穩(wěn)定性。

他們發(fā)現(xiàn)某些微小的運(yùn)動(dòng)會(huì)導(dǎo)致最終圖像中出現(xiàn)大量偽像，細(xì)節(jié)被模糊或完全去除，并且圖像重建的質(zhì)量會(huì)因重復(fù)進(jìn)行二次采樣而變差。這些錯(cuò)誤廣泛分布在不同類型的神經(jīng)網(wǎng)絡(luò)中。

研究人員認(rèn)為，最令人擔(dān)憂的錯(cuò)誤是放射科醫(yī)生可能將其解釋為醫(yī)學(xué)問題，而不是那些由于技術(shù)錯(cuò)誤而可以輕易消除的錯(cuò)誤。

漢森說：“我們開發(fā)了這項(xiàng)測(cè)試，以驗(yàn)證我們的論點(diǎn)，即深度學(xué)習(xí)技術(shù)在醫(yī)學(xué)成像中普遍不穩(wěn)定。” “我們進(jìn)行預(yù)測(cè)的理由是，在有限的掃描時(shí)間下如何進(jìn)行良好的重建是有局限的。從某種意義上說，現(xiàn)代AI技術(shù)打破了這一障礙，結(jié)果變得不穩(wěn)定。我們通過數(shù)學(xué)方法證明了為這些不穩(wěn)定因素付出代價(jià)，或者簡(jiǎn)單地說：仍然沒有免費(fèi)的午餐之類的東西。”

研究人員現(xiàn)在專注于提供AI技術(shù)可以完成的基本限制。只有知道了這些限制，我們才能了解可以解決的問題。漢森說：“基于試驗(yàn)和錯(cuò)誤的研究永遠(yuǎn)不會(huì)發(fā)現(xiàn)煉金術(shù)士無法制造黃金：我們?cè)诂F(xiàn)代AI方面處于類似情況。” “這些技術(shù)永遠(yuǎn)不會(huì)發(fā)現(xiàn)自己的局限性。這些局限性只能以數(shù)學(xué)方式顯示出來。”