基于深度神經網絡的回歸模型及其應用研究.pdf

1、回歸模型是一種常用于數(shù)據預測的數(shù)學模型，其在目標檢測、人臉識別和行為識別等領域都有廣泛的應用。傳統(tǒng)回歸模型可以在少量樣本上擬合相對簡單的非線性函數(shù)。但當前回歸任務需要面臨復雜的問題和處理大量的數(shù)據，傳統(tǒng)回歸模型在建立復雜映射關系和提取高層數(shù)據特征等方面都面臨巨大挑戰(zhàn)。而深度神經網絡作為一種近期興起的技術，具有從大量數(shù)據中自動地學習復雜映射關系和高層數(shù)據特征的能力。因此，采用基于深度神經網絡的回歸模型能夠有效地減少上述問題對數(shù)據預測的影響

2、，提高回歸的準確度。
　　本文圍繞基于深度神經網絡的回歸模型開展兩個方面的研究，分別為基于深度神經網絡構造的回歸模型研究和基于深度神經網絡特征的回歸模型研究，以克服傳統(tǒng)回歸模型在建立復雜映射關系和提取高層數(shù)據特征方面存在的局限性。由于圖像中頭部姿態(tài)估計是計算機視覺領域中典型的回歸問題，視頻中人體行為分類是計算機視覺中廣義的回歸問題。因此，本文針對這兩個不同任務設計不同的回歸模型。這樣不僅可以提高頭部姿態(tài)估計和人體行為分類的準確度，

3、還可以獲得構建基于深度神經網絡回歸模型的方法。本文的主要研究內容如下：
　　1）為了克服傳統(tǒng)頭部姿態(tài)估計方法對姿態(tài)初始值和人臉特征點準確定位的依賴問題，本文提出了一種基于級聯(lián)深度神經網絡的頭部姿態(tài)估計方法。該方法采用基于深度神經網絡的級聯(lián)框架和多層次的回歸算法，逐步地對頭部姿態(tài)進行估計。首先，構建一種級聯(lián)深度神經網絡模型，逐層地估計人臉圖像的初始姿態(tài)和姿態(tài)偏差值。之后，采用一種多層回歸算法，根據全局網絡層的初始姿態(tài)和局部網絡層的偏

4、差值，由粗到細地微調頭部姿態(tài)。實驗結果表明，在無需姿態(tài)初始值和人臉特征點準確定位的情況下，該方法依然能夠較好地進行頭部姿態(tài)估計。
　　2）為了對頭部姿態(tài)多個自由度之間的關聯(lián)性進行建模，本文提出了一種基于尺度不變約束深度神經網絡的頭部姿態(tài)估計方法。該方法根據不同姿態(tài)下臉部變化的規(guī)律，構建基于尺度不變約束深度神經網絡的回歸模型，進一步降低頭部姿態(tài)估計的平均絕對誤差。首先，分層地提取人臉圖像的全局特征和局部特征。然后，通過全局網絡層和多

5、個局部網絡層分別估計初始姿態(tài)和姿態(tài)偏差值。最后，根據姿態(tài)偏差不斷地調整初始姿態(tài)，以獲得最終頭部姿態(tài)。另外，分析不同個體不同姿態(tài)下和相同個體不同姿態(tài)下人臉圖像的變化特點，為基于尺度不變約束深度神經網絡的估計方法提供經驗依據。實驗結果表明，該模型具有較好的泛化能力，不但可以實現(xiàn)頭部姿態(tài)單個自由度的估計，還可以實現(xiàn)頭部姿態(tài)多個自由度的估計。并且，該方法比基于級聯(lián)深度神經網絡的頭部姿態(tài)估計方法取得更好的估計結果，但是計算時間較長。因此，該方法適

6、用于速度要求一般，準確率要求稍高的場景中。
　　3）為了克服現(xiàn)有頭部姿態(tài)估計方法在訓練數(shù)據不充分、不完整情況下的估計效果不佳問題，本文提出了一種基于姿態(tài)敏感多變量標記分布學習的頭部姿態(tài)估計方法。該方法采用深度神經網絡提取的魯棒姿態(tài)特征，構建一種基于姿態(tài)敏感多變量標記分布學習的頭部姿態(tài)估計模型實現(xiàn)頭部姿態(tài)估計。首先，利用深度神經網絡提取人臉圖像的魯棒姿態(tài)征。之后，采用多變量標記分布學習算法預測姿態(tài)特征的標記分布，并根據該分布計算最終

7、的頭部姿態(tài)。在多變量標記分布學習算法中，為每個姿態(tài)標記一個分布來描述每個姿態(tài)標簽對單張人臉圖像的重要程度，在一定程度上緩解了樣本不充足、不充分的問題。實驗結果表明，該方法在訓練樣本不充分和不均衡的情況下實現(xiàn)不同頭部姿態(tài)的估計。
　　4）為了充分利用鄰近區(qū)域先驗知識并使行為表征有較明確的含義，本文提出一種基于遞歸神經網絡和兩階段回歸的人體行為分類方法。該方法利用回聲狀態(tài)網絡提取能刻畫行為序列幾何結構的局部特征，并將鄰近區(qū)域的先驗知識