醫(yī)學(xué)影像人工智能協(xié)作平臺，基于NVIDIA GPU Cloud (NGC) 的遠(yuǎn)程醫(yī)學(xué)影像診斷平臺，使高精度遠(yuǎn)程診療成為現(xiàn)實，幫助逐步實現(xiàn)醫(yī)療資源均衡化。

“互聯(lián)網(wǎng)+醫(yī)學(xué)影像”AI助推實現(xiàn)醫(yī)療資源均衡化

目前，我國公共醫(yī)療資源分配不均，大型醫(yī)院醫(yī)療資源緊張，同時小型醫(yī)院醫(yī)療資源又未得到充分發(fā)揮。分級診療是醫(yī)療資源均衡化的一個突破口，通過整合醫(yī)療服務(wù)的需求入口，使各級醫(yī)療服務(wù)機構(gòu)能夠更好地發(fā)揮自身價值，提高醫(yī)療體系的整體服務(wù)效率。

在就診過程中，醫(yī)學(xué)影像結(jié)論有著重要的作用，而AI 輔助影像診斷可以有效地提升醫(yī)療資源運轉(zhuǎn)效率；此外，醫(yī)學(xué)影像極具互聯(lián)網(wǎng)基因，在人工智能提升醫(yī)療能力的過程中，將首先推進實現(xiàn)分級診療。

翼展醫(yī)療集團是一家提供智慧醫(yī)學(xué)影像解決方案的專業(yè)醫(yī)療機構(gòu)，同時也是一家專注于醫(yī)學(xué)影像人工智能應(yīng)用研發(fā)的高科技企業(yè)。翼展醫(yī)療集團通過建立人工智能開放協(xié)作平臺、在線云診斷平臺、翼展醫(yī)學(xué)影像診斷中心、影像醫(yī)生集團、多病種早篩中心，打造了行業(yè)獨有的多維生態(tài)進化體系，使高精度遠(yuǎn)程診療成為現(xiàn)實，逐步幫助醫(yī)療資源均衡化。借助NVIDIA GPU Cloud (NGC)，翼展醫(yī)療集團解決了其在平臺建立之初遭遇的深度學(xué)習(xí)團隊機時分配困難和平臺兼容性較差等問題，使其平臺變得更加靈活，且具備強大的兼容性，能夠易于部署及運維人工智能應(yīng)用產(chǎn)品。

從平臺建立到運維 翼展遭遇重重挑戰(zhàn)

為了更好地落地AI產(chǎn)品，貼近臨床，翼展醫(yī)療集團打造了人工智能開放協(xié)作平臺，為人工智能企業(yè)和創(chuàng)業(yè)團隊提供人工智能產(chǎn)品的發(fā)布和搭建平臺，在云診斷平臺集成各病種AI診斷工具，主要分為高端篩查及專項篩查兩個方向；同時，通過建立人工智能開放協(xié)作平臺、在線云診斷平臺、翼展醫(yī)學(xué)影像診斷中心、影像醫(yī)生集團、多病種早篩中心，打造了行業(yè)獨有的多維生態(tài)進化體系，為人工智能產(chǎn)品提供了充足的落地應(yīng)用場景，使其更加貼近臨床，更好地服務(wù)于醫(yī)生和患者，使高精度遠(yuǎn)程診療成為現(xiàn)實，逐步幫助醫(yī)療資源均衡化。

然而，在平臺搭建之初，翼展醫(yī)療集團遭遇了諸多挑戰(zhàn)。

從頭搭建機器學(xué)習(xí)平臺——費時費力

2016年，翼展開始進行醫(yī)學(xué)影像人工智能應(yīng)用的研發(fā)。由于當(dāng)時公有云廠商能夠提供GPU實例的還非常少，于是翼展選擇自行采購硬件設(shè)備搭建服務(wù)器。其首先配置了一臺雙卡工作站，按照網(wǎng)上教程一步步安裝ubuntu，NVIDIA GPU驅(qū)動程序，CUDA，cuDNN，但最后編譯Caffe的時候發(fā)現(xiàn)庫版本不對，只能從頭配置，花費了一周左右的時間才開始正式訓(xùn)練模型。之后，翼展升級了服務(wù)器，采用由第三方廠商配置好操作系統(tǒng)和底層驅(qū)動的8卡服務(wù)器，但隨著內(nèi)部團隊成員的增加，新的問題又隨之而來。

機器學(xué)習(xí)團隊需求各不同，機時分配遇窘境

起初，翼展團隊中只有一名專職深度學(xué)習(xí)專家，可以在雙卡工作站做小批量數(shù)據(jù)預(yù)訓(xùn)練，然后在服務(wù)器上做大規(guī)模訓(xùn)練，本地和遠(yuǎn)程環(huán)境可以設(shè)置成一樣的。但隨著團隊成員的增加，就開始需要分配訓(xùn)練機時了。由于每個人的項目不同，使用的模型不同，底層依賴的深度學(xué)習(xí)框架及庫版本也不同，一個統(tǒng)一的完全沒有隔離的環(huán)境越來越不能滿足日常訓(xùn)練的要求。曾經(jīng)出現(xiàn)過的事故是，有模型需要將Python版本升級，升級之后導(dǎo)致其他人的模型無法正常工作。

翼展采取了嚴(yán)格的規(guī)章制度，劃分用戶空間，每個人需要的 Python執(zhí)行環(huán)境、深度學(xué)習(xí)框架及第三方庫都自行安裝在各自的用戶空間。對于GPU驅(qū)動程序及CUDA等底層庫，則只能由管理員來進行安裝和升級。升級前還須要做好兼容性測試，一旦不同用戶的模型有沖突便難以解決。后來隨著開始租用公有云的GPU實例，情況得到了一定程度的好轉(zhuǎn)，不過在公有云上安裝配置環(huán)境依然費時費力。

深度學(xué)習(xí)模型多種多樣，平臺難以招架

2017年，翼展開始布局人工智能開放協(xié)作平臺，為人工智能企業(yè)和創(chuàng)業(yè)團隊提供醫(yī)學(xué)影像人工智能產(chǎn)品發(fā)布和運行平臺。該平臺需要接入不同廠商的產(chǎn)品，有的產(chǎn)品是通過API接入，后臺深度學(xué)習(xí)模型的運行環(huán)境由廠商自行維護；有的則是廠商直接將模型發(fā)布給翼展，由其提供運行時環(huán)境，并且模型的迭代速度很快，新版本模型底層依賴版本也會相應(yīng)變化，每次升級的操作都不只是簡單地部署一個新模型，還需要同時將運行時環(huán)境一并升級，而且工程團隊通常至少需要同時維護一套測試環(huán)境和生產(chǎn)環(huán)境。雖然當(dāng)時工程團隊已經(jīng)采用了DevOps，有了Docker的運維經(jīng)驗，但是管理GPU云上實例及各種機器學(xué)習(xí)框架不同版本仍然是一個巨大的挑戰(zhàn)——直到NGC的出現(xiàn)。

“2017年翼展開始布局醫(yī)學(xué)影像人工智能開放協(xié)作平臺后，我們需要部署的機器學(xué)習(xí)應(yīng)用越來越多，手工方式的落后管理必然要被工程化管理所取代。雖然這個時候工程團隊已經(jīng)擁抱DevOps，有了Docker的運維經(jīng)驗，不過管理 GPU云上實例及各種機器學(xué)習(xí)框架不同版本仍然是一個噩夢…直到NGC的出現(xiàn)?！?/p>

--- 邊海鋒 翼展醫(yī)療集團 CTO

“NGC提供流行常用的第三方兼容GPU、符合NGC標(biāo)準(zhǔn)和最佳實踐的高性能計算應(yīng)用容器，使用戶可以方便的在最短的時間內(nèi)啟動和運行起來。這正是我們一直在尋找的東西?？吹竭@個介紹的吋候，我們第一時間在NGC網(wǎng)站進行了注冊，并且很快在自己的服務(wù)器上pull了一個NGC容器試用，發(fā)現(xiàn)真的非常簡單?！?/p>

--- 謝鋒波 翼展醫(yī)療集團 高級研發(fā)總監(jiān)

NGC帶來簡單高效的解決方案

NVIDIA GPU Cloud (NGC)是針對深度學(xué)習(xí)和科學(xué)計算優(yōu)化的基于GPU加速的云平臺。在當(dāng)前的發(fā)行版本中，NGC包含了NGC容器，NGC容器注冊，NGC網(wǎng)站，以及用以運行深度學(xué)習(xí)容器的平臺軟件。

NGC容器旨在提供一個軟件平臺，該平臺基于最小的操作系統(tǒng)要求、安裝在服務(wù)器或工作站上Docker和驅(qū)動，通過NGC容器注冊里的NGC容器提供所有的應(yīng)用程序和SDK軟件。

NGC管理著一份目錄，包含了完全集成和優(yōu)化的深度學(xué)習(xí)框架容器，適用于單GPU以及多GPU配置環(huán)境。這些容器包括：CUDA工具包，DIGITS工作流，以及以下深度學(xué)習(xí)框架：NVCaffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), MXNet, PyTorch, TensorFlow, Theano 和 Torch。這些框架容器以開箱即可用的方式交付，包含了所有必須的依賴，比如CUDA運行時環(huán)境、 NVIDIA庫和運行系統(tǒng)環(huán)境。每個框架容器鏡像還包含了框架源代碼，以支持用戶自定義修改和增強功能，以及完整的軟件開發(fā)棧。

NGC也提供流行常用的第三方兼容GPU、符合NGC標(biāo)準(zhǔn)和最佳實踐的高性能計算應(yīng)用容器，使用戶可以方便的在最短的時間內(nèi)啟動和運行起來。基于NGC，工程師們能夠快速啟動應(yīng)用開發(fā)程序，使應(yīng)用程序盡早開始運行，減少了通常與設(shè)置軟件相關(guān)的復(fù)雜性以往需要幾周的工作，現(xiàn)在幾分鐘就可以解決。

NVIDIA每月對這些深度學(xué)習(xí)的容器進行更新，以確保提供最佳性能。在深度學(xué)習(xí)框架容器的基礎(chǔ)上，NGC也提供了一系列高性能計算可視化應(yīng)用容器，采用支持業(yè)界領(lǐng)先的可視化工具，包括集成了NVIDIA Index 立體渲染的ParaView, NVIDIA OptiX 光線追蹤庫和NVIDIA Holodeck，以實現(xiàn)高質(zhì)量可交互的實時視覺效果。

NGC既可以在自建服務(wù)器上使用，也可以在其他公有云上使用。如今有新的合作伙伴加入申請機器學(xué)習(xí)訓(xùn)練環(huán)境，或者新的項目要啟動，亦或新的模型要部署，翼展醫(yī)療集團的運維工程師只需對方告知其深度學(xué)習(xí)框架的版本，然后在NGC網(wǎng)站找到對應(yīng)的鏡像，運行一個docker pull命令，然后就可以悠閑的去喝杯咖啡了。

翼展醫(yī)療集團如今正在做的事情，是利用NGC的自定義容器功能，將自研的深度學(xué)習(xí)應(yīng)用發(fā)布為 NVIDIA-docker鏡像，這樣可以進一步簡化應(yīng)用部署，同時可以與工程團隊其他項目共用一套持續(xù)集成及運維的流程。

目前翼展的醫(yī)學(xué)影像人工智能協(xié)作平臺已上線十余種人工智能產(chǎn)品，包括用于血管壁分割及斑塊成分分析的磁共振斑塊成像解決方案、CT下肺結(jié)節(jié)篩查、DR胸肺常見疾病篩查、DR智能報告自動生成系統(tǒng)等，為合作醫(yī)院及各類醫(yī)療機構(gòu)提供了有力的支撐，促進診斷能力提升。