一種基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法
【專利摘要】本發(fā)明提供了一種基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法,包括:S1納入磁共振圖像并對(duì)其進(jìn)行預(yù)處理操作和特征映射操作;S2構(gòu)建包括輸入層、多個(gè)卷積層、至少一個(gè)池化層/下采樣層以及全連接層的多層卷積神經(jīng)網(wǎng)絡(luò),其中,卷積層和池化層/下采樣層依次交替設(shè)于輸入層和全連接層之間,且卷積層的數(shù)量比池化層/下采樣層的數(shù)量多1;S3使用步驟S2構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)磁共振圖像進(jìn)行特征提??;S4將步驟S3輸出的特征向量輸入Softmax分類器中,對(duì)磁共振圖像的疾病屬性做出判斷。其通過多層卷積神經(jīng)網(wǎng)絡(luò)的非線性映射,自動(dòng)得到高度可分的特征/特征組合用于分類,并且可以不斷優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)得到更好的分類效果。
【專利說明】
一種基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明涉及醫(yī)學(xué)數(shù)據(jù)處理技術(shù)領(lǐng)域,尤其涉及一種磁共振影像特征提取及分類方法。
【背景技術(shù)】
[0002] 磁共振成像是一種高分辨率、無損傷、解剖結(jié)構(gòu)顯示清楚的醫(yī)學(xué)成像技術(shù),因此磁 共振成像技術(shù)在醫(yī)療診斷過程中起了重要的作用,尤其在腦組織相關(guān)的疾病診斷和研究中 得到了廣泛的應(yīng)用。近十年以來,對(duì)于非腦組織/結(jié)構(gòu)損傷的神經(jīng)、精神疾病的診斷,磁共振 成像(MRI,Magnetic Resonance Imaging)作為神經(jīng)影像中一種重要的腦成像方法,也已被 廣泛地用于認(rèn)知神經(jīng)科學(xué)和腦疾病的研究中。
[0003] 多元模式分類分析(MVPA,Multi_voxel Pattern Analysis)等機(jī)器學(xué)習(xí)算法常被 用于識(shí)別人腦磁共振圖像中的空間模式,實(shí)現(xiàn)大腦狀態(tài)的解碼,或者對(duì)健康和患病腦的區(qū) 分。常見的分類過程中,首先需要對(duì)不同模態(tài)磁共振圖像進(jìn)行特征映射(如,針對(duì)結(jié)構(gòu)像T1 的全腦灰質(zhì)體積特征映射圖、針對(duì)彌散張量圖像的FA圖、針對(duì)靜息態(tài)磁共振圖像的ALFF圖 等),之后選取區(qū)分度較高的特征值(選取某個(gè)特征映射圖的部分或者全部)組成特征向量 作為分類器的輸入,使用改進(jìn)的分類器對(duì)其進(jìn)行分類。通常來說,在特征向量數(shù)據(jù)優(yōu)化和分 類器參數(shù)尋優(yōu)的條件下,可以取得不錯(cuò)的分類效果(文獻(xiàn)報(bào)道的分類準(zhǔn)確率范圍集中在 65%~85%),但還達(dá)不到臨床應(yīng)用或接近于臨床實(shí)用的水平。
[0004] 傳統(tǒng)使用MVPA等機(jī)器學(xué)習(xí)算法對(duì)磁共振圖像分類的過程中,需要人工選擇特征輸 入,而人工選定的輸入特征跟人的經(jīng)驗(yàn)有很大關(guān)系,致使分類效果一直未得到有效突破,與 臨床實(shí)際使用還有較大差距。
【發(fā)明內(nèi)容】
[0005] 針對(duì)上述問題,本發(fā)明旨在提供一種基于深度學(xué)習(xí)的磁共振影像特征提取及分類 方法,有效解決了傳統(tǒng)的磁共振圖像分類過程中需要人工選擇特征輸入致使分類精度不高 的問題,其通過多層卷積神經(jīng)網(wǎng)絡(luò)的非線性映射,自動(dòng)得到高度可分的特征/特征組合用于 分類,并且可以不斷優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)得到更好的分類效果。
[0006] 本發(fā)明提供的技術(shù)方案如下:
[0007] -種基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法,包括:
[0008] S1納入磁共振圖像并對(duì)其進(jìn)行預(yù)處理操作和特征映射操作;
[0009] S2構(gòu)建一個(gè)包括輸入層、多個(gè)卷積層、至少一個(gè)池化層/下采樣層以及全連接層 的多層卷積神經(jīng)網(wǎng)絡(luò),其中,所述卷積層和所述池化層/下采樣層依次交替設(shè)于所述輸入層 和所述全連接層之間,且所述卷積層的數(shù)量比所述池化層/下采樣層的數(shù)量多1;
[0010] S3使用步驟S2構(gòu)建的所述多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)步驟S1中經(jīng)預(yù)處理和特征映射后 的磁共振圖像進(jìn)行特征提取;
[0011] S4將步驟S3中所述多層卷積神經(jīng)網(wǎng)絡(luò)輸出的特征向量輸入Softmax分類器中,對(duì) 納入到的磁共振圖像的疾病屬性做出判斷。
[0012]在本技術(shù)方案中,步驟S2中構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)中卷積層和池化層/下采樣 層的數(shù)量根據(jù)實(shí)際情況進(jìn)行確定,對(duì)多卷積神經(jīng)網(wǎng)絡(luò)中的層次進(jìn)行適當(dāng)?shù)臄U(kuò)展或縮減。當(dāng) 訓(xùn)練樣本數(shù)量較多時(shí),可適當(dāng)增加卷積層和池化層/下采樣層的數(shù)量;當(dāng)訓(xùn)練樣本數(shù)量較少 時(shí),可適當(dāng)減少卷積層和池化層/下采樣層的數(shù)量。
[0013]進(jìn)一步優(yōu)選地,在步驟S1中具體包括:
[0014] S11輸入標(biāo)準(zhǔn)格式磁共振圖像,并進(jìn)行格式變換;
[0015] S12對(duì)步驟S11中變換格式后的磁共振圖像進(jìn)行濾波處理、去噪處理、分割處理、 時(shí)間校正處理、配準(zhǔn)處理、重采樣處理以及平滑處理等;
[0016] S13將步驟S12中預(yù)處理操作之后的磁共振圖像在標(biāo)準(zhǔn)空間內(nèi)進(jìn)行特征映射,得 到標(biāo)準(zhǔn)空間內(nèi)的特征映射圖。
[0017] 在本技術(shù)方案中,步驟S12中我們只是示例性的給出了7種對(duì)磁共振圖像進(jìn)行預(yù)處 理的步驟,常規(guī)預(yù)處理步驟多達(dá)20~30項(xiàng),這里我們不一一列舉。
[0018]進(jìn)一步優(yōu)選地,在步驟S3中具體包括:
[0019] S31輸入訓(xùn)練樣本集,采用無監(jiān)督學(xué)習(xí)方法預(yù)訓(xùn)練所述多層卷積神經(jīng)網(wǎng)絡(luò)中各層 的節(jié)點(diǎn)參數(shù),實(shí)現(xiàn)訓(xùn)練樣本集的特征提??;
[0020] S32輸入步驟S1中的磁共振圖像數(shù)據(jù)集,采用有監(jiān)督學(xué)習(xí)方法對(duì)步驟S22中多層 卷積神經(jīng)網(wǎng)絡(luò)中各層的節(jié)點(diǎn)參數(shù)進(jìn)行微調(diào)訓(xùn)練,實(shí)現(xiàn)步驟S22中提取的特征的微調(diào)。
[0021] 在本技術(shù)方案中,在步驟S31中的無監(jiān)督學(xué)習(xí)過程是多層卷積神經(jīng)網(wǎng)絡(luò)中各層節(jié) 點(diǎn)參數(shù)從無到有的一個(gè)過程,故這里輸入的訓(xùn)練樣本集可以為標(biāo)準(zhǔn)數(shù)據(jù)集,也可以為納入 的特定磁共振圖像數(shù)據(jù)集,我們對(duì)該過程中輸入的訓(xùn)練樣本集不做具體限定。
[0022] 進(jìn)一步優(yōu)選地,在步驟S32中,所述多層卷積神經(jīng)網(wǎng)絡(luò)中各層神經(jīng)元的連接權(quán)值 whj的微調(diào)過程為:
[0024]
為當(dāng)輸入為(xk,yk) 時(shí)的輸出值,為第k個(gè)訓(xùn)練樣本對(duì)應(yīng)的第j個(gè)輸出,η為給定學(xué)習(xí)率。
[0025] 進(jìn)一步優(yōu)選地,在步驟S32中,所述多層卷積神經(jīng)網(wǎng)絡(luò)中第I層卷積層后接第1+1層 池化層,則第1+1層卷積層的誤差求取方法如下:
[0027] 其中,為第1 + 1層池化層的誤差敏感項(xiàng),δ1,為第I層卷積層的誤差敏感項(xiàng), li(aj)1為第I層卷積層對(duì)應(yīng)的第j個(gè)神經(jīng)元激發(fā)函數(shù)的導(dǎo)數(shù),符號(hào)?為矩陣點(diǎn)乘操作。
[0028] 進(jìn)一步優(yōu)選地,在步驟S32中,所述多層卷積神經(jīng)網(wǎng)絡(luò)中第I層池化層后接第1+1層 卷積層,則第1+1層池化層的誤差求取方法如下:
[0030]其中,為第I層池化層的誤差敏感項(xiàng),δ^1為第1+1層卷積層的誤差敏感項(xiàng),Μ為第 1+1層卷積層中特征數(shù)量,κυ為卷積核,符號(hào)*為離散卷積操作。
[0031]進(jìn)一步優(yōu)選地,在步驟S4中具體包括:
[0032] S41對(duì)步驟S3輸出的特征進(jìn)行局部歸一化處理和過擬合處理;
[0033] S42將經(jīng)過局部歸一化處理和過擬合處理輸出的特征向量輸入Softmax分類器 中,對(duì)納入到的磁共振圖像的疾病屬性做出判斷。
[0034]進(jìn)一步優(yōu)選地,在步驟S41中,對(duì)步驟S3輸出的特征進(jìn)行局部歸一化處理具體包括:
[0036] 其中,為核i在(X,y)處的神經(jīng)元,N為某一層中核的總數(shù)。
[0037] 進(jìn)一步優(yōu)選地,在步驟S3和步驟S4中,使用隨機(jī)梯度下降算法優(yōu)化參數(shù):
[0041]其中,h(x)為目標(biāo)函數(shù),J(0)為損失函數(shù),α為算法的學(xué)習(xí)速率,Θ。為Θ的最終更迭 參數(shù),j為參數(shù)的個(gè)數(shù),m為訓(xùn)練樣本集的記錄條數(shù)。
[0042]本發(fā)明提供的基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法,能夠帶來以下有 益效果:
[0043] 本發(fā)明提供的磁共振影像特征提取及分類方法中,在多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)輸入的 磁共振圖像進(jìn)行了特征提?。吹玫骄矸e和池化特征)之后,讓多層卷積神經(jīng)網(wǎng)絡(luò)自己學(xué)習(xí) 挑選輸入的特征組合得到特征向量給分類器分類以得到最好的分類效果。相較于傳統(tǒng)的人 工選擇輸入特征、經(jīng)過組合后得到一個(gè)輸出特征向量后給分類器進(jìn)行分類更智能化,實(shí)現(xiàn) 更加精確地分類效果。且在該多層卷積神經(jīng)網(wǎng)絡(luò)中將特征提取部分和分類識(shí)別部分銜接在 一起,其中特征學(xué)習(xí)部分隱式進(jìn)行,大部分集中在該多層卷積神經(jīng)網(wǎng)絡(luò)的中間隱含層,即在 訓(xùn)練訓(xùn)練樣本集的同時(shí),進(jìn)行特征學(xué)習(xí),免去了繁瑣的手動(dòng)提取特征和設(shè)計(jì)特征的過程,簡(jiǎn) 化了流程,節(jié)約時(shí)間。
[0044] 再有,在本發(fā)明中,在多層卷積網(wǎng)絡(luò)中各層之間(前神經(jīng)元和下一級(jí)輸入神經(jīng)元之 間)進(jìn)行特征映射時(shí),為了提高并行訓(xùn)練的速度,給當(dāng)前層神經(jīng)元設(shè)置相同的權(quán)重,這樣,產(chǎn) 生的過程參數(shù)大大減小,增大了該多層卷積神經(jīng)網(wǎng)絡(luò)的靈活性和可擴(kuò)展性。尤其對(duì)于輸入 的磁共振圖像是多維向量的情況,減少了在特征提取以及分類過程中,數(shù)據(jù)重建帶來的復(fù) 雜度,對(duì)于大規(guī)模圖像識(shí)別任務(wù),這個(gè)特點(diǎn)很實(shí)用。
[0045] 最后,在本發(fā)明中,采用使用隨機(jī)梯度下降算法優(yōu)化樣本訓(xùn)練過程中的參數(shù),且訓(xùn) 練樣本讀取過程是隨機(jī)的,讀取一次訓(xùn)練樣本,更新一次權(quán)值,而不是等所有訓(xùn)練樣本 m全 部讀完,大大降低了算法的復(fù)雜度。這樣,當(dāng)m很大時(shí),如100萬時(shí),有可能在讀取了幾千條之 后函數(shù)已收斂,隨機(jī)梯度下降算法的使用是的使得J(0)快速收斂,適合訓(xùn)練樣本集較大的 訓(xùn)練過程。
【附圖說明】
[0046] 下面將以明確易懂的方式,結(jié)合【附圖說明】優(yōu)選實(shí)施方式,對(duì)上述特性、技術(shù)特征、 優(yōu)點(diǎn)及其實(shí)現(xiàn)方式予以進(jìn)一步說明。
[0047] 圖1為本發(fā)明中基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法的流程示意圖;
[0048] 圖2為本發(fā)明中多層卷積神經(jīng)網(wǎng)絡(luò)示意圖;
[0049] 圖3為本發(fā)明具體實(shí)施例中偏頭痛患者磁共振圖像數(shù)據(jù)的分類流程圖;
[0050] 圖4為本發(fā)明具體實(shí)施例中該多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)提取出來的特征進(jìn)行有監(jiān)督學(xué) 習(xí)過程示意圖。
【具體實(shí)施方式】
[0051] 圖1為本發(fā)明提供的基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法的流程示意 圖,從圖中可以看出,在該磁共振影像特征提取及分類方法包括:S1納入磁共振圖像并對(duì)其 進(jìn)行預(yù)處理操作和特征映射操作;S2構(gòu)建一個(gè)包括輸入層、多個(gè)卷積層、至少一個(gè)池化層/ 下采樣層以及全連接層的多層卷積神經(jīng)網(wǎng)絡(luò),其中,卷積層和池化層/下采樣層依次交替設(shè) 于輸入層和全連接層之間,且卷積層的數(shù)量比池化層/下采樣層的數(shù)量多1;S3使用步驟S2 構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)步驟S1中經(jīng)預(yù)處理和特征映射后的磁共振圖像進(jìn)行特征提?。?S4將步驟S3中多層卷積神經(jīng)網(wǎng)絡(luò)輸出的特征向量輸入Softmax分類器中,對(duì)納入到的磁共 振圖像的疾病屬性做出判斷。
[0052]具體來說,在步驟S1中具體包括:S11輸入標(biāo)準(zhǔn)格式磁共振圖像,包括各模態(tài)/多模 態(tài)磁共振圖像數(shù)據(jù),并進(jìn)行格式變換,作為輸入數(shù)據(jù);S12對(duì)步驟S11中納入到的磁共振圖像 進(jìn)行濾波處理、去噪處理、分割處理、配準(zhǔn)處理、重采樣處理以及平滑處理等;S13將步驟S12 中預(yù)處理操作之后的磁共振圖像在標(biāo)準(zhǔn)空間內(nèi)進(jìn)行特征映射,以將原始磁共振圖像轉(zhuǎn)換成 每個(gè)像素代表某一特征值的特征映射圖。
[0053]在步驟S2中構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)中卷積層和池化層/下采樣層的數(shù)量根據(jù)訓(xùn) 練樣本的大小進(jìn)行確定,在這里我們并不做具體限定。如,在一個(gè)具體實(shí)施例中,可以構(gòu)建 一個(gè)包括輸入層I、卷積層C1、池化層/下采樣層S1、卷積層C2、池化層/下采樣層S2、卷積層 C3以及全連接層的多層卷積神經(jīng)網(wǎng)絡(luò)。在另一各具體實(shí)施例中,可以構(gòu)建一個(gè)包括輸入層 I、卷積層C1、池化層/下采樣層S1、卷積層C2、池化層/下采樣層S2、卷積層C3、池化層/下采 樣層S4、卷積層C4以及全連接層的多層卷積神經(jīng)網(wǎng)絡(luò)。在上述具體實(shí)施例中,我們構(gòu)建的多 層卷積神經(jīng)網(wǎng)絡(luò)分別包括了 3個(gè)卷積層、2個(gè)池化層/下采樣層和4個(gè)卷積層、3個(gè)池化層/下 采樣層,在其他實(shí)施例中,還可以包括5個(gè)卷積層、4個(gè)池化層/下采樣層甚至更多,原則上來 說,只要構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)中,卷積層的數(shù)量比池化層/下采樣層數(shù)量多1,且卷積層后 接于輸入層,同時(shí)卷積層和數(shù)量比池化層/下采樣層交替設(shè)置,都包括在本發(fā)明的內(nèi)容中。 [0054]可以看出,在構(gòu)建的多層卷積神經(jīng)網(wǎng)絡(luò)中,隱含層的核心部分由卷積層和池化層 交替迭代組成。在一個(gè)實(shí)施例中,如圖2所示,假定靜息態(tài)功能磁共振(Rs-fMRI)圖像大小為 1X1,卷積濾波器Filter尺寸大小為F1*F1,輸出i個(gè)特征圖(如圖示中的Ml、M2、……、Mi), 則其和原始I X I的Rs-fMRI圖像進(jìn)行二維圖像卷積產(chǎn)生輸出圖像為g(x,y) =f (x,y)*C(u, 4,其中以^1?1圖像的二維數(shù)字圖像用汽^7)表示,二維卷積函數(shù)用(:(1 1^)。以此得到1個(gè) |/^]/[大小的卷積層(:01^1,其中,1 = 1-?1+1,具體得到的輸出特征圖為:
[0056]其中,Μ」表示被選擇的輸入的磁共振圖像集,b表示每個(gè)輸出特征圖的額外偏置。 [0057]之后,在卷積層Convl后接池化層Pooll,我們知道,池化層能夠?qū)σ欢ㄠ徲蚧蚍秶?內(nèi)通過對(duì)鄰域內(nèi)特征值的最大值對(duì)不同特征進(jìn)行特征維數(shù)的縮放。在該實(shí)施方式中,池化 層Pooll的池化步進(jìn)尺寸Pool Size大小為m,即將mXm的像素池化到一個(gè)像素,得到i個(gè)PX P大小的池化層輸出特征圖(如圖示中的P1、P2、……、Pi),其中,P=M/m。經(jīng)過池化層Poo 11 之后的統(tǒng)計(jì)特征,跟池化之前的特征相比,維度降低了很多,有效抑制了過擬合現(xiàn)象。
[0058] 接著,池化層Pool 1后繼續(xù)接卷積層Conv2(得到NX N個(gè)卷積層,如圖示中的N1、 N2、......、Nj),卷積層Conv2與卷積層Convl相比,只是輸出層個(gè)數(shù)和卷積核濾波器大小不 同。同理,卷積層Conv2后接的池化層Pool2,與池化層Pool 1相比,只是池化步進(jìn)尺寸大小不 同,以此卷積層和池化層相互交迭之后接全連接層FC,具體該全連接層FC的輸入是卷積和 池化層的輸出,映射成η維向量,全連接層FC后再接Softmax分類層,輸出的每一維都是圖像 屬于該類別的概率,完成對(duì)輸入的磁共振圖像疾病屬性的判斷。
[0059] 通過上述方法構(gòu)建好了多層卷積神經(jīng)網(wǎng)絡(luò)之后,如步驟S31中所述,采用無監(jiān)督學(xué) 習(xí)方法確定多層卷積神經(jīng)網(wǎng)絡(luò)中各神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)的參數(shù)。具體在該訓(xùn)練過程中,首先訓(xùn)練多 層卷積神經(jīng)網(wǎng)絡(luò)中的第一層,再將第一層訓(xùn)練好的隱含結(jié)點(diǎn)作為第二層的輸入結(jié)點(diǎn),這樣依 次完成各層的預(yù)訓(xùn)練。預(yù)訓(xùn)練之后,為了更好的學(xué)習(xí)特征,再以監(jiān)督學(xué)習(xí)的方式(與預(yù)訓(xùn)練過 程的方向相反,通過帶標(biāo)簽的數(shù)據(jù)訓(xùn)練,使得誤差自向后傳遞)對(duì)該多層卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行微 調(diào),具體如步驟S32所述,對(duì)于訓(xùn)練例( Xk,yk),假定輸出為1=(對(duì),窮,...,對(duì)),那么誤差為:
[0061] 其中,為第k個(gè)訓(xùn)練樣本對(duì)應(yīng)的第j個(gè)輸出。
[0062] 基于此,該多層卷積神經(jīng)網(wǎng)絡(luò)在預(yù)訓(xùn)練的過程中,有超過允許范圍的誤差就要在 有監(jiān)督學(xué)習(xí)的過程中進(jìn)行節(jié)點(diǎn)參數(shù)微調(diào),我們以隱含層到輸出層的連接權(quán)值的推導(dǎo)為 例進(jìn)行說明。對(duì)誤差E k給定學(xué)習(xí)率II,則連接權(quán)值ω 的微調(diào)如下:
[0064]另外,在多層卷積神經(jīng)網(wǎng)絡(luò)中,如果第I層為卷積層,第1+1層為池化層,用g+1表示 第1+1層池化層的誤差敏感項(xiàng),用g表示第I層卷積層的誤差敏感項(xiàng),則第1+1層卷積層的誤 差求取方法如下:
[0066] 其中,hKaj'為第I層卷積層對(duì)應(yīng)的第j個(gè)神經(jīng)元激發(fā)函數(shù)的導(dǎo)數(shù),符號(hào)?為矩陣 點(diǎn)乘操作。
[0067] 相應(yīng)的,在多層卷積神經(jīng)網(wǎng)絡(luò)中,如果第I層為池化層,且該池化層中對(duì)應(yīng)N個(gè)通 道,N個(gè)特征值;第1+1層為卷積層,包含Μ個(gè)特征,則第I層每個(gè)通道的誤差敏感項(xiàng)為第1+1層 的所有特征核對(duì)應(yīng)的貢獻(xiàn)之和。當(dāng)?shù)?+1層中第j個(gè)特征核對(duì)應(yīng)第I層中第i個(gè)通道,則第1+1 層池化層的誤差求取方法如下:
[0069] 其中,Μ為第1+1層卷積層中特征數(shù)量,Kij為卷積核,符號(hào)*為離散卷積操作,在具體 實(shí)施例中,在該多層卷積神經(jīng)網(wǎng)絡(luò)中,池化層默認(rèn)為線性激發(fā)函數(shù)。具體,池化針對(duì)過擬合 問題,對(duì)一定鄰域或范圍內(nèi)的不同特征進(jìn)行特征維數(shù)的縮放,特征維數(shù)縮放算法通常是取 鄰域內(nèi)特征值的最大或者均值。如,Aj = a(l,. . .,n)j = Pooling(Xj);其中Aj是池化之后的 輸出,alj是輸出后第1個(gè)特征向量的激活值。
[0070] 我們知道,泛化對(duì)于多層卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練來說較為關(guān)鍵,而局部歸一化有助 于泛化。因此,在步驟S4中,首先對(duì)步驟S3輸出的特征進(jìn)行局部歸一化處理和過擬合處理 (步驟S41);隨后再將經(jīng)過局部歸一化處理和過擬合處理輸出的特征向量輸入Softmax分類 器中,對(duì)納入到的磁共振圖像的疾病屬性做出判斷(步驟S42)。
[0071] 具體,在步驟S41中,對(duì)步驟S3輸出的特征進(jìn)行局部歸一化處理包括:
[0073] 其中,a'w為核i在(X,y)處的神經(jīng)元,N為某一層中核的總數(shù)。要說明的是,在該多 層卷積神經(jīng)網(wǎng)絡(luò)中的任一層中,特征核的順序是任意的,并在訓(xùn)練開始時(shí)就已被決定,上述 局部歸一化實(shí)現(xiàn)了一種單側(cè)抑制的形式,這種單側(cè)抑制來源于真實(shí)的神經(jīng)元,并為神經(jīng)元 輸出中的大型活動(dòng)創(chuàng)造競(jìng)爭(zhēng)條件,這些神經(jīng)元的輸出值是由不同核計(jì)算得到的。
[0074] 另外,在整個(gè)網(wǎng)絡(luò)訓(xùn)練過程中,為了防止參數(shù)的過擬合,每次給定輸入訓(xùn)練樣本之 后,雖然多層卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本呈現(xiàn)出不同的結(jié)構(gòu),但是所有結(jié)果都共享權(quán)重,這樣 就大大降低了神經(jīng)元的復(fù)雜協(xié)同適應(yīng)性,神經(jīng)元之間不相互依賴,通過有用地結(jié)合其它許 多不同神經(jīng)元的隨機(jī)子集,被迫學(xué)習(xí)更強(qiáng)大的功能。又,在整個(gè)網(wǎng)絡(luò)訓(xùn)練過程中,為了防止 網(wǎng)絡(luò)參數(shù)陷入局部最優(yōu)而非全局最優(yōu),我們使用隨機(jī)梯度下降算法優(yōu)化參數(shù):
[0076]其中,h(x)為目標(biāo)函數(shù),xo=l,由上式子可知,求h(x)實(shí)則演變?yōu)榍髤?shù)θτ。為了確 定07效果好壞,使用損失函數(shù)J(0)評(píng)估h(X)函數(shù)的性能好壞,該錯(cuò)誤函數(shù)如下式所示:
[0080] 其中,α為算法的學(xué)習(xí)速率,j為參數(shù)的個(gè)數(shù),m為訓(xùn)練樣本集的記錄條數(shù)。
[0081] 在一個(gè)具體實(shí)施例中:我們以某醫(yī)院偏頭痛患者和健康對(duì)照組的磁共振圖像為 例,其中,健康對(duì)照組用HC表示,共21人;偏頭痛患者用MIG表示,共47人(其中,有CA癥狀的 用MCA表示,共20人;無 CA癥狀的用MNCA表示,共27人)。
[0082] 數(shù)據(jù)預(yù)處理用SPM8軟件,基于上述對(duì)多卷積神經(jīng)網(wǎng)絡(luò)的描述,在處理過程中,先將 原始的DIC0M類型數(shù)據(jù)進(jìn)行格式轉(zhuǎn)換;去除前10個(gè)時(shí)間點(diǎn);時(shí)間層校正;頭動(dòng)校正且校正誤 差控制在2mm內(nèi);空間標(biāo)準(zhǔn)化;平滑處理。
[0083] 預(yù)處理完成之后,如圖3所示,將納入到的磁共振圖像Rs-fMRI在構(gòu)建好的多層卷 積神經(jīng)網(wǎng)絡(luò)模型(CNN網(wǎng)絡(luò)模型)中進(jìn)行特征提取,以無監(jiān)督學(xué)習(xí)的方式對(duì)其進(jìn)行預(yù)訓(xùn)練;之 后,為了更好的學(xué)習(xí)特征,再以監(jiān)督學(xué)習(xí)的方式(帶有標(biāo)簽數(shù)據(jù)),進(jìn)行微調(diào),以提高對(duì)Rs-fMRI 圖像的識(shí)別準(zhǔn)確率,如圖 4 所示為該多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)提取出來的特征進(jìn)行有監(jiān)督 學(xué)習(xí)過程的示意圖,其向下生成底層,同時(shí)修改在無監(jiān)督訓(xùn)練時(shí),底層向高層傳遞的層間權(quán) 重,使得高級(jí)特征更能表征Rs-fMRI圖像本身。特征學(xué)習(xí)完成后,再進(jìn)入強(qiáng)分類器SoftMax模 型,完成疾病的診斷和分類。HC和MIG的識(shí)別結(jié)果如表1所示,HC、MCA及MNCA三分類的識(shí)別結(jié) 果如表2所示:
[0084] 表1:HC和MIG的識(shí)別結(jié)果
[0087] 表2 :HC、MCA及MNCA三分類的識(shí)別結(jié)果
[0089]由以上結(jié)果可以看出,本發(fā)明提供的基于深度學(xué)習(xí)的磁共振影像特征提取及分類 方法達(dá)到了磁共振圖像準(zhǔn)確分類的結(jié)果,其中HC和MIG二分類準(zhǔn)確率高達(dá)0.9787,HC、MCA及 MNCA的三分類識(shí)別率達(dá)0.8687。
[0090]應(yīng)當(dāng)說明的是,上述實(shí)施例均可根據(jù)需要自由組合。以上所述僅是本發(fā)明的優(yōu)選 實(shí)施方式,應(yīng)當(dāng)指出,對(duì)于本技術(shù)領(lǐng)域的普通技術(shù)人員來說,在不脫離本發(fā)明原理的前提 下,還可以做出若干改進(jìn)和潤飾,這些改進(jìn)和潤飾也應(yīng)視為本發(fā)明的保護(hù)范圍。
【主權(quán)項(xiàng)】
1. 一種基于深度學(xué)習(xí)的磁共振影像特征提取及分類方法,其特征在于,所述磁共振影 像特征提取及分類方法包括: S1納入磁共振圖像并對(duì)其進(jìn)行預(yù)處理操作和特征映射操作; S2構(gòu)建一個(gè)包括輸入層、多個(gè)卷積層、至少一個(gè)池化層/下采樣層W及全連接層的多層 卷積神經(jīng)網(wǎng)絡(luò),其中,所述卷積層和所述池化層/下采樣層依次交替設(shè)于所述輸入層和所述 全連接層之間,且所述卷積層的數(shù)量比所述池化層/下采樣層的數(shù)量多1; S3使用步驟S2構(gòu)建的所述多層卷積神經(jīng)網(wǎng)絡(luò)對(duì)步驟S1中經(jīng)預(yù)處理和特征映射后的磁 共振圖像進(jìn)行特征提??; S4將步驟S3中所述多層卷積神經(jīng)網(wǎng)絡(luò)輸出的特征向量輸入Softmax分類器中,對(duì)納入 到的磁共振圖像的疾病屬性做出判斷。2. 如權(quán)利要求1所述的磁共振影像特征提取及分類方法,其特征在于, 在步驟S1中具體包括: S11輸入標(biāo)準(zhǔn)格式磁共振圖像,并進(jìn)行格式變換; S12對(duì)步驟S11中變換格式后的磁共振圖像進(jìn)行濾波處理、去噪處理、分割處理、時(shí)間校 正處理、配準(zhǔn)處理、重采樣處理W及平滑處理; S13將步驟S12中預(yù)處理操作之后的磁共振圖像在標(biāo)準(zhǔn)空間內(nèi)進(jìn)行特征映射,得到標(biāo)準(zhǔn) 空間內(nèi)的特征映射圖。3. 如權(quán)利要求1或2所述的磁共振影像特征提取及分類方法,其特征在于,在步驟S3中 具體包括: S31輸入訓(xùn)練樣本集,采用無監(jiān)督學(xué)習(xí)方法預(yù)訓(xùn)練所述多層卷積神經(jīng)網(wǎng)絡(luò)中各層的節(jié) 點(diǎn)參數(shù),實(shí)現(xiàn)訓(xùn)練樣本集的特征提?。? S32輸入步驟S1中的磁共振圖像數(shù)據(jù)集,采用有監(jiān)督學(xué)習(xí)方法對(duì)步驟S22中多層卷積神 經(jīng)網(wǎng)絡(luò)中各層的節(jié)點(diǎn)參數(shù)進(jìn)行微調(diào)訓(xùn)練,實(shí)現(xiàn)步驟S22中提取的特征的微調(diào)。4. 如權(quán)利要求3所述的磁共振影像特征提取及分類方法,其特征在于,在步驟S32中,所 述多層卷積神經(jīng)網(wǎng)絡(luò)中各層神經(jīng)元的連接權(quán)值的微調(diào)過程為:其中,誤I為當(dāng)輸入為(xk,yk)時(shí)的輸 出值,為第k個(gè)訓(xùn)練樣本對(duì)應(yīng)的第j個(gè)輸出,η為給定學(xué)習(xí)率。5. 如權(quán)利要求3所述的磁共振影像特征提取及分類方法,其特征在于,在步驟S32中,所 述多層卷積神經(jīng)網(wǎng)絡(luò)中第I層卷積層后接第1+1層池化層,則第1+1層卷積層的誤差求取方 法如下:其中,踩1為第1+1層池化層的誤差敏感項(xiàng),S為第I層卷積層的誤差敏感項(xiàng),h的)'為第 I層卷積層對(duì)應(yīng)的第j個(gè)神經(jīng)元激發(fā)函數(shù)的導(dǎo)數(shù),符號(hào)?為矩陣點(diǎn)乘操作。6. 如權(quán)利要求3所述的磁共振影像特征提取及分類方法,其特征在于,在步驟S32中,所 述多層卷積神經(jīng)網(wǎng)絡(luò)中第I層池化層后接第1+1層卷積層,則第1+1層池化層的誤差求取方 法如下:其中,^為第I層池化層的誤差敏感項(xiàng)為第1 + 1層卷積層的誤差敏感項(xiàng),Μ為第1+1 層卷積層中特征數(shù)量,Κυ為卷積核,符號(hào)*為離散卷積操作。7. 如權(quán)利要求1或2或4或5或6所述的磁共振影像特征提取及分類方法,其特征在于,在 步驟S4中具體包括: S41對(duì)步驟S3輸出的特征進(jìn)行局部歸一化處理和過擬合處理; S42將經(jīng)過局部歸一化處理和過擬合處理輸出的特征向量輸入Softmax分類器中,對(duì)納 入到的磁共振圖像的疾病屬性做出判斷。8. 如權(quán)利要求7所述的磁共振影像特征提取及分類方法,其特征在于,在步驟S41中,對(duì) 步驟S3輸出的特征進(jìn)行局部歸一化處理具體包括:其中,a;^、.為核i在(x,y)處的神經(jīng)元,N為某一層中核的總數(shù)。9. 如權(quán)利要求4或5或6或8所述的磁共振影像特征提取及分類方法,其特征在于,在步 驟S3和步驟S4中,使用隨機(jī)梯度下降算法優(yōu)化參數(shù):其中,h(x)為目標(biāo)函數(shù),J(0)為損失函數(shù),α為算法的學(xué)習(xí)速率,為Θ的最終更迭參數(shù), j為參數(shù)的個(gè)數(shù),m為訓(xùn)練樣本集的記錄條數(shù)。
【文檔編號(hào)】G06K9/62GK106096616SQ201610409373
【公開日】2016年11月9日
【申請(qǐng)日】2016年6月8日
【發(fā)明人】龔啟勇, 張俊然, 黃曉琦, 呂粟, 賈志云
【申請(qǐng)人】四川大學(xué)華西醫(yī)院