基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型及其應(yīng)用研究.pdf

1、回歸模型是一種常用于數(shù)據(jù)預(yù)測的數(shù)學(xué)模型，其在目標(biāo)檢測、人臉識別和行為識別等領(lǐng)域都有廣泛的應(yīng)用。傳統(tǒng)回歸模型可以在少量樣本上擬合相對簡單的非線性函數(shù)。但當(dāng)前回歸任務(wù)需要面臨復(fù)雜的問題和處理大量的數(shù)據(jù)，傳統(tǒng)回歸模型在建立復(fù)雜映射關(guān)系和提取高層數(shù)據(jù)特征等方面都面臨巨大挑戰(zhàn)。而深度神經(jīng)網(wǎng)絡(luò)作為一種近期興起的技術(shù)，具有從大量數(shù)據(jù)中自動地學(xué)習(xí)復(fù)雜映射關(guān)系和高層數(shù)據(jù)特征的能力。因此，采用基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型能夠有效地減少上述問題對數(shù)據(jù)預(yù)測的影響

2、，提高回歸的準(zhǔn)確度。
　　本文圍繞基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型開展兩個方面的研究，分別為基于深度神經(jīng)網(wǎng)絡(luò)構(gòu)造的回歸模型研究和基于深度神經(jīng)網(wǎng)絡(luò)特征的回歸模型研究，以克服傳統(tǒng)回歸模型在建立復(fù)雜映射關(guān)系和提取高層數(shù)據(jù)特征方面存在的局限性。由于圖像中頭部姿態(tài)估計是計算機視覺領(lǐng)域中典型的回歸問題，視頻中人體行為分類是計算機視覺中廣義的回歸問題。因此，本文針對這兩個不同任務(wù)設(shè)計不同的回歸模型。這樣不僅可以提高頭部姿態(tài)估計和人體行為分類的準(zhǔn)確度，

3、還可以獲得構(gòu)建基于深度神經(jīng)網(wǎng)絡(luò)回歸模型的方法。本文的主要研究內(nèi)容如下：
　　1）為了克服傳統(tǒng)頭部姿態(tài)估計方法對姿態(tài)初始值和人臉特征點準(zhǔn)確定位的依賴問題，本文提出了一種基于級聯(lián)深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法。該方法采用基于深度神經(jīng)網(wǎng)絡(luò)的級聯(lián)框架和多層次的回歸算法，逐步地對頭部姿態(tài)進行估計。首先，構(gòu)建一種級聯(lián)深度神經(jīng)網(wǎng)絡(luò)模型，逐層地估計人臉圖像的初始姿態(tài)和姿態(tài)偏差值。之后，采用一種多層回歸算法，根據(jù)全局網(wǎng)絡(luò)層的初始姿態(tài)和局部網(wǎng)絡(luò)層的偏

4、差值，由粗到細(xì)地微調(diào)頭部姿態(tài)。實驗結(jié)果表明，在無需姿態(tài)初始值和人臉特征點準(zhǔn)確定位的情況下，該方法依然能夠較好地進行頭部姿態(tài)估計。
　　2）為了對頭部姿態(tài)多個自由度之間的關(guān)聯(lián)性進行建模，本文提出了一種基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法。該方法根據(jù)不同姿態(tài)下臉部變化的規(guī)律，構(gòu)建基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的回歸模型，進一步降低頭部姿態(tài)估計的平均絕對誤差。首先，分層地提取人臉圖像的全局特征和局部特征。然后，通過全局網(wǎng)絡(luò)層和多

5、個局部網(wǎng)絡(luò)層分別估計初始姿態(tài)和姿態(tài)偏差值。最后，根據(jù)姿態(tài)偏差不斷地調(diào)整初始姿態(tài)，以獲得最終頭部姿態(tài)。另外，分析不同個體不同姿態(tài)下和相同個體不同姿態(tài)下人臉圖像的變化特點，為基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的估計方法提供經(jīng)驗依據(jù)。實驗結(jié)果表明，該模型具有較好的泛化能力，不但可以實現(xiàn)頭部姿態(tài)單個自由度的估計，還可以實現(xiàn)頭部姿態(tài)多個自由度的估計。并且，該方法比基于級聯(lián)深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法取得更好的估計結(jié)果，但是計算時間較長。因此，該方法適

6、用于速度要求一般，準(zhǔn)確率要求稍高的場景中。
　　3）為了克服現(xiàn)有頭部姿態(tài)估計方法在訓(xùn)練數(shù)據(jù)不充分、不完整情況下的估計效果不佳問題，本文提出了一種基于姿態(tài)敏感多變量標(biāo)記分布學(xué)習(xí)的頭部姿態(tài)估計方法。該方法采用深度神經(jīng)網(wǎng)絡(luò)提取的魯棒姿態(tài)特征，構(gòu)建一種基于姿態(tài)敏感多變量標(biāo)記分布學(xué)習(xí)的頭部姿態(tài)估計模型實現(xiàn)頭部姿態(tài)估計。首先，利用深度神經(jīng)網(wǎng)絡(luò)提取人臉圖像的魯棒姿態(tài)征。之后，采用多變量標(biāo)記分布學(xué)習(xí)算法預(yù)測姿態(tài)特征的標(biāo)記分布，并根據(jù)該分布計算最終

7、的頭部姿態(tài)。在多變量標(biāo)記分布學(xué)習(xí)算法中，為每個姿態(tài)標(biāo)記一個分布來描述每個姿態(tài)標(biāo)簽對單張人臉圖像的重要程度，在一定程度上緩解了樣本不充足、不充分的問題。實驗結(jié)果表明，該方法在訓(xùn)練樣本不充分和不均衡的情況下實現(xiàn)不同頭部姿態(tài)的估計。
　　4）為了充分利用鄰近區(qū)域先驗知識并使行為表征有較明確的含義，本文提出一種基于遞歸神經(jīng)網(wǎng)絡(luò)和兩階段回歸的人體行為分類方法。該方法利用回聲狀態(tài)網(wǎng)絡(luò)提取能刻畫行為序列幾何結(jié)構(gòu)的局部特征，并將鄰近區(qū)域的先驗知識