使用Intel Xeon?可伸縮處理器和Intel OpenVINO發(fā)行版，推理速度提高了8.4X1? 工具箱

宮頸癌是女性中第四大最常見的癌癥，2018年估計(jì)新增57萬例，占所有女性癌癥的6.6%。2通過巴氏涂片（Pap）篩查進(jìn)行早期診斷并進(jìn)行治療，可顯著提高患者生存的機(jī)會。根據(jù)美國國立衛(wèi)生研究院（NIH）的數(shù)據(jù)，1990年代引入的宮頸癌篩查液基細(xì)胞學(xué)（LBC）方法目前在美國90%以上的Pap檢測中使用，每年約有6000萬個(gè)新的樣本被收集。4如此大量的測試需要分析，使得醫(yī)生很難用傳統(tǒng)的方法手工篩選和及時(shí)診斷。

基于LBC的Pap涂片可以使用自動(dòng)數(shù)字掃描系統(tǒng)進(jìn)行掃描，以檢測癌前細(xì)胞和癌細(xì)胞的存在。隨著深度學(xué)習(xí)（DL）技術(shù)的進(jìn)步和強(qiáng)大計(jì)算系統(tǒng)的可用性，基于AI的篩選解決方案在解決基于LBC的Pap測試診斷難題方面變得既實(shí)用又必要。基于深度學(xué)習(xí)的篩查有助于宮頸癌的診斷

寧波康豐生物信息技術(shù)有限公司（KFBIO）是一家病理相關(guān)產(chǎn)品的整體解決方案提供商，包括樣本處理設(shè)備、數(shù)字病理掃描系統(tǒng)、病理信息系統(tǒng)和用于檢測和分類癌前病變和異常的DL算法/模型。作為中國領(lǐng)先的醫(yī)學(xué)病理切片掃描儀制造商（在多家醫(yī)院部署了數(shù)千臺設(shè)備），KFBIO將傳統(tǒng)病理切片掃描成數(shù)字圖像的能力使科學(xué)家能夠應(yīng)用數(shù)字圖像技術(shù)來輔助醫(yī)療診斷。KFBIO開發(fā)了一套基于DL技術(shù)的AI驅(qū)動(dòng)的病理解決方案，包括使用LBC（KFLBPS）在Pap測試結(jié)果中檢測宮頸癌、循環(huán)腫瘤細(xì)胞檢測、結(jié)核分枝桿菌檢測（KFTBS）等。KFLBPS和KFTBS均已獲得CFDA認(rèn)證，KFLBPS準(zhǔn)備為中國4億多婦女提供宮頸癌篩查服務(wù)。數(shù)字成像使醫(yī)學(xué)數(shù)據(jù)能夠通過網(wǎng)絡(luò)進(jìn)行存儲、共享和協(xié)作分析。

人工智能數(shù)字病理學(xué)有助于解決醫(yī)療資源短缺的問題，并為偏遠(yuǎn)地區(qū)和農(nóng)村地區(qū)的人們提供更好的診斷途徑。

本文所展示的性能強(qiáng)調(diào)了kfio和Intel之間的合作，基于AI的宮頸癌篩查的潛力。通過與主要醫(yī)院的合作，KFBIO能夠獲得更多的Pap測試數(shù)據(jù)，以改進(jìn)模型和改進(jìn)算法。

Intel 人工智能技術(shù)加速自動(dòng)篩選8.4X1

雖然KFBIO有一個(gè)有效的DL解決方案掃描基于LBC的宮頸癌標(biāo)本，他們的工程師希望更高的性能，以便更快地完成掃描。與英特爾工程師合作，KFBIO集成了針對TensorFlow的Intel優(yōu)化和OpenVINO的Intel發(fā)行版? 將工具箱放入他們的DL軟件棧中。對于運(yùn)行在英特爾至強(qiáng)gold6148處理器上的工作負(fù)載，這些優(yōu)化將推理性能提高了8.4X1，而在沒有優(yōu)化的同一處理器上的基準(zhǔn)模型吞吐量相比（請參見圖1）。

Intel發(fā)行版的OpenVINO toolkit為開發(fā)人員提供資源，以創(chuàng)建模擬人類視覺的應(yīng)用程序和解決方案，跨多個(gè)Intel平臺CPU、GPU、FPGA和VPU優(yōu)化深度學(xué)習(xí)解決方案，并加速深度神經(jīng)網(wǎng)絡(luò)工作負(fù)荷?；诰矸e神經(jīng)網(wǎng)絡(luò)（CNN），工具箱：

?在邊緣實(shí)現(xiàn)深度學(xué)習(xí)推理

?支持跨計(jì)算機(jī)視覺加速器CPU、GPU、Intel Movidius的異構(gòu)執(zhí)行? 神經(jīng)計(jì)算棒，F(xiàn)PGA使用通用API

?通過函數(shù)庫和預(yù)先優(yōu)化的內(nèi)核加快上市時(shí)間

?包括對OpenCV和OpenVX的優(yōu)化調(diào)用

Intel Optimization for TensorFlow為構(gòu)建在TensorFlow框架上的模型提供了優(yōu)化的庫，以利用Intel處理器的功能，幫助加快訓(xùn)練和推斷時(shí)間。為了充分利用“英特爾體系結(jié)構(gòu)”（IA）的強(qiáng)大性能，“英特爾TensorFlow優(yōu)化”包含“英特爾數(shù)據(jù)分析加速庫”（Intel DAAL），這是一個(gè)針對深度學(xué)習(xí)任務(wù)的高度優(yōu)化數(shù)學(xué)例程庫，包括卷積、規(guī)范化、激活、內(nèi)積和其他原語。使用Intel針對TensorFlow的優(yōu)化，開發(fā)人員可以在不更改代碼的情況下實(shí)現(xiàn)加速執(zhí)行。

結(jié)論

宮頸癌標(biāo)本篩查的LBC方法被廣泛應(yīng)用于女性第四大癌癥的早期檢測。使用人工智能技術(shù)加速對樣本的機(jī)器篩選可以增加篩查樣本的數(shù)量，并有可能更快地提醒醫(yī)生關(guān)注患者的問題。與未優(yōu)化的模型相比，在Intel Xeon Gold 6148處理器上，使用Intel針對TensorFlow的優(yōu)化和OpenVINO toolkit KFBIO的Intel發(fā)行版可將宮頸癌篩查的推理性能提高8.4X1。數(shù)字病理圖像很大，通常高達(dá)40K×40K，因此需要大量的系統(tǒng)內(nèi)存來進(jìn)行AI處理。基于CPU的系統(tǒng)可以提供幾百GB的內(nèi)存，使其成為數(shù)字病理工作負(fù)載的理想選擇。

快來，小伙伴們都在學(xué)OpenVINO！ http://cafeforensic.com/openvino