駕駛員監(jiān)控系統(tǒng)（driver monitoring system，DMS）一般是對L2-L3級別的自動駕駛系統(tǒng)而言的，對L4級別是沒有意義的，除非系統(tǒng)仍然是需要安全員的測試環(huán)節(jié)。

監(jiān)控的目的是發(fā)現(xiàn)駕駛員走神（distraction）、疲勞（fatigue）或者打瞌睡（drowsiness），甚至出現(xiàn)無法駕駛的意外情況，比如欺騙輔助駕駛系統(tǒng)用礦泉水代替雙手在方向盤上，或者與乘客爭吵打架等。另外，如果作為自動駕駛的研發(fā)階段，監(jiān)控駕駛員可以提供駕駛行為的第一手數(shù)據(jù)，甚至用于仿真模擬系統(tǒng)中。

非侵入式（non-intrusive）方法是監(jiān)測的首選方法，而基于視覺的系統(tǒng)更具有吸引力。主要的視覺線索包括面部特征、手特征或身體特征。許多檢測系統(tǒng)僅使用單個視覺線索，這種系統(tǒng)魯棒性差，比如出現(xiàn)遮擋或光照變化時，容易被干擾。所以將多種視覺線索組合才是關(guān)鍵，也是具有挑戰(zhàn)性的。

一個駕駛員面部監(jiān)控系統(tǒng)是基于駕駛員面部圖像處理來研究駕駛員身心狀況的實時系統(tǒng)?？梢詮难鄄€閉合、眨眼、凝視方向、打哈欠和頭部運動等，檢測到駕駛員狀態(tài)?；痉殖蓛纱箢悾?/p>

①. 僅從眼部區(qū)域檢測駕駛員；

②. 不僅可以從眼睛中檢測，還可以從臉部和頭部的其他區(qū)域檢測。

下圖是一個駕駛員臉部監(jiān)控系統(tǒng)框圖：檢測人臉，還有眼睛和其他臉部特征，同時跟蹤變化，提取癥狀，實現(xiàn)疲勞和分心檢測。駕駛員面部監(jiān)控系統(tǒng)的主要挑戰(zhàn)是：

①“如何測量疲勞？”第一個挑戰(zhàn)是如何準確定義疲勞以及如何測量疲勞; 疲勞與體溫，皮膚電阻，眼球運動，呼吸頻率，心率和大腦活動之間存在關(guān)系;第一個也是最重要的疲勞跡象會在眼睛中出現(xiàn)。

②“如何測量注意力？”第二個挑戰(zhàn)是測量駕駛員對道路的注意力；可以從駕駛員頭部和注視方向（gaze direction）估計駕駛員的注意力。

人臉檢測方法可參照一般目標檢測的方法，現(xiàn)在深度學習也已經(jīng)在這個領(lǐng)域展示“肌肉”。人臉檢測是一個老問題，人臉檢測挑戰(zhàn)的情況有以下一些：

面內(nèi)旋轉(zhuǎn);

面外旋轉(zhuǎn);

化妝品，胡須和眼鏡的存在;

表情（快樂，哭泣等）;

照明條件;

臉部遮擋;

實時處理要求。

眼部區(qū)域總是先被用于駕駛員癥狀提取，因為最重要的心理活動與眼睛活動有關(guān)。

眼睛檢測的兩大類：

1) 基于紅外光譜成像的方法；

2) 基于視覺的方法；

除了眼睛，還可以檢測其他面部成分：嘴巴，鼻子和臉部突出（Salient）點。

面部跟蹤是分析駕駛員心理活動的主要手段。這種跟蹤任務和一般單目標的跟蹤是相似的，主要挑戰(zhàn)包括：

從三維空間到二維空間的映射而讓一些信息丟失;

具有復雜的形狀或運動;

部分遮擋;

環(huán)境光線變化;

實時跟蹤要求。

與疲勞、分心和打瞌睡有關(guān)的癥狀提取包括：

與眼部區(qū)域有關(guān)的癥狀：閉眼、眼瞼之間的距離、眨眼速度快、凝視方向和跳躍運動；

與嘴巴區(qū)域有關(guān)的癥狀：開/閉；

與頭部有關(guān)的癥狀：點頭、頭部姿勢和頭固定不變；

與面部有關(guān)的癥狀：主要是表情。

下面分別舉幾個例子：

如圖是一個基于深度神經(jīng)網(wǎng)絡（DNN）的駕駛員監(jiān)控系統(tǒng)。

其基于臉部、雙目和嘴巴三個區(qū)域的檢測網(wǎng)絡結(jié)構(gòu)如下：

而基于單目（左眼）區(qū)域加嘴巴區(qū)域的檢測網(wǎng)絡結(jié)構(gòu)如下：

如圖是一個基于深度學習模型的人臉表情識別系統(tǒng)：輸入圖像檢測面部和特征，從面部成分提取時空特征，使用預訓練的分類器（圖像取自CK+數(shù)據(jù)集（d））確定表情。

而整個深度學習模型是CNN和LSTM結(jié)合，如下圖：

下圖一個身體姿勢（posture）識別駕駛員分心癥狀的系統(tǒng)。其癥狀類包括：喝酒，調(diào)整收音機，正確姿勢駕駛，擺弄頭發(fā)或化妝品，面向后面，與乘客交談，用左手打手機通話，用右手打手機通話，用左手發(fā)短信， 用右手發(fā)短信。

系統(tǒng)的算法框圖如圖：包括面部檢測器、手部檢測器和皮膚區(qū)域分割。對于每個輸出圖像（即皮膚，面部，手），訓練AlexNet和InceptionV3網(wǎng)絡（5個AlexNet和5個InceptionV3），最后識別是一個加權(quán)組合輸出。

審核編輯 ：李倩