更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）
深度學習被譽為一個革命性的工具，在放射學支援更快、更準確、更詳細的臨床建議。
幾乎每天研究人員都會發布新的研究結果，顯示人工智慧有可能幫助人類工作，其中許多模型已經達到或者超過了訓練有素的醫生的能力。
但是，如果好奇的研究人員或者圖謀不軌的人把這些成果用來對付他們應該幫助的臨床醫生，那該怎麼辦？
利用深度學習偽造醫學影像並不困難
以色列一個研究小組的一項新研究表明，利用深度學習來偽造癌症腫瘤的醫學影像，並在大多數情況下能夠很輕鬆的騙過即使是最好的放射科醫生。
這個團隊解釋瞭如何成功地滲透到一個典型的醫療系統的PACS（影像歸檔和通訊系統）中，並使用一種叫做生成對抗性網路（GAN）的機器學習的惡意軟體來改變MRI或CT掃描影像，從而讓正常人的影像中出現腫瘤或者讓癌症病人的影像中移除真正的癌症。
這些在政治和社會領域日益受到關注的「Deep fake」可能會對患者的治療結果產生重大影響。
研究小組解釋說：「由於3D醫學掃描成像是醫生判斷患者病情的強有力證據，因此能夠對掃描進行攻擊的駭客將有能力改變病人的診斷結果。」
例如，駭客可以增加或消除動脈瘤、心臟病、血栓、關節炎、軟骨問題、腦、心臟等其他癌症證據。
進行這種攻擊有很多動機，研究人員表示，駭客可能希望透過嚴肅的健康診斷來影響選舉結果或推翻政治人物，甚至他們可能會更大規模地改變醫療影像，並持有原始資料以索取贖金。
個人可以利用這些策略進行保險欺詐或隱瞞謀殺，研究人員或藥物研發人員可以偽造他們的資料來獲得想要的結果。
研究小組指出，數百個常用的PACS系統都有不安全的網路連線，可以提供一個簡單的攻擊載體，醫療保健駭客的創造力似乎是無止盡的。
惡意偽造資料後果重大
研究人員使用一臺低於50美元的普通電腦Raspberry Pi對一家真實醫院的系統進行了模擬攻擊。
「Pi 配置了一個usb到乙太網介面卡，並配置為無源網橋(沒有網路識別符號) ，」研究小組說。
「Pi 還被配置為一個用於後門訪問的隱藏 Wi-Fi 接入點。」
「我們還列印了CT掃描儀制造商的3D 標誌，並把它粘在圓周率儀上，使它不那麼引人注目。」
雖然參與的醫院完全瞭解該小組的活動並同意進行試驗，但是醫院還是被這種低成本的巨大破幻力感到吃驚。醫療保健組織對駭客實際安裝硬體並進入網路的方便程度感到擔憂。
同樣令人擔憂的是深度學習模型所產生的的影像的真實性。即使放射科醫生知道影像可能已經被改變，他們也很難辨認出影像哪裡被改變了。
當三位經驗豐富的臨床醫生沒有被告知他們看到的是「偽造」的肺癌腫瘤影像時，他們99%認為這是癌症。
「當被問及這個問題時，除了放射科醫生注意到一個移除區域有一些異常外，其他兩位醫生沒有發生任何異常。」研究小組說道。
放射科醫生也確信這種「偽造」的影像是非常嚴重的。
「至於偽造的癌症，放射科醫生的共識是，三分之一醫生表示需要立即進行手術，所有醫生表示都需要後續治療。」
對於消除了真實腫瘤的影像，94%的放射科醫生沒有發現任何問題。即使放射科醫生被警告說有些影像可能被改變，但是他們仍然會犯錯誤。臨床醫生沒有注意到他們看到的腫瘤有61%是假的，87%的醫生沒有發現真實的腫瘤已經被消除。
此外，參與的放射科醫生對於他們的決定並不是很有信心。當被問及他們是否確診了真假癌症時，所有的臨床醫生都表現出了嚴重的懷疑。
這種方法甚至100%愚弄了一個基於人工智慧的臨床決策支援工具。這讓那些人工智慧的支持者感到震驚，但是他們相信人工智慧可以更有效地發現人為錯誤，並提高決策的準確性。
保護醫療資料刻不容緩
隨著人工智慧變得越來越複雜、醫療系統中勒索軟體攻擊和資料洩露事件的增加，這些卑鄙的、創新性的威脅可能會變得越來越普遍。
公司和組織不得不小心翼翼地保護他們的基礎設施，並付出極大的代價來幫助人們如何在一個深度學習可以用來篡改幾乎任何東西的世界中辨別真相。
「這篇論文就是想告訴人們一個事實，並警醒他們：如果人類專家和先進的人工智慧完全相信他們的觀察結果，他們就有可能被愚弄。」研究小組繼續說道，「我們希望這篇論文和補充的資料能夠幫助產業界和學術界應對這一新出現的威脅。」
原文連結：https://healthitanalytics.com/news/deep-learning-malware-can-fake-cancer-on-medical-images
原文作者：Jennifer Bresnick
更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）
