驾驶员疲劳状况检测方法和装置技术领域
本发明涉及智能交通技术领域,特别涉及一种驾驶员疲劳状况检测方法和
装置。
背景技术
在长距离行驶过程中,或者在驾驶员长时间工作或饮酒后,驾驶员可能会
处于疲劳驾驶的状态,在这种状态下,容易出现车辆偏离正常行驶的道路或速
度过快等情况,甚至可能引发严重的交通事故,造成重大的人员伤亡和财产损
失。如果能够对驾驶员的疲劳状况进行自动检测,并及时报警,将有效减少交
通事故的发生。
目前,对驾驶员疲劳判断通常采用摄像头将驾驶员在驾驶中的面部形态特征
记录下来,通过图形处理模块对采集到的数字图像进行运算处理,以获取驾驶
员脸部特征,根据驾驶员眼睛开闭状态和次数等形态学特征来判断驾驶员是否
已经处于疲劳状况,并给出相应的警报予以警示。
在实现本发明的过程中,发明人发现现有技术存在以下问题:采用上述方式
对驾驶员处于疲劳状况进行判断容易出现误判,可能会频繁提醒驾驶员注意安
全,可能会影响驾驶员注意力,甚至会造成不必要的损失。
发明内容
为了能够准确确定驾驶员是否处于疲劳状况,本发明实施例提供了一种驾
驶员疲劳状况检测方法和装置。所述技术方案如下:
一方面,本发明实施例提供了一种驾驶员疲劳状况检测方法,所述方法包
括:
获取驾驶员的面部图像;
根据所述面部图像获取所述驾驶员的形态学特征;
获取所述驾驶员的转向操作信息;
根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况。
在本发明一种可能的实现方式中,所述根据所述面部图像获取驾驶员的形
态学特征,包括:
对所述面部图像进行人脸检测,得到人脸区域;
提取所述人脸区域中的特征区域,所述特征区域包括眼睛区域、嘴巴区域
中的至少一种;
根据所述特征区域获取所述驾驶员的形态学特征。
其中,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打
哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,
所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值
中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率横
摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验
类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、
方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分
比及过线时间中的至少一种。
在本发明一种可能的实现方式中,所述根据所述形态学特征和所述转向操
作信息,确定驾驶员的疲劳状况,包括:
将所述形态学特征和所述转向操作信息作为支持向量机的输入,采用支持
向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,
f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是
对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是
径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度
疲劳-重度疲劳分类器。
进一步地,所述方法还包括:
根据所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
另一方面,本发明实施例提供了一种驾驶员疲劳状况检测装置,所述装置
包括:
图像获取模块,用于获取驾驶员的面部图像;
形态获取模块,用于根据所述图像获取模块获取到的所述面部图像,获取所
述驾驶员的形态学特征;
转向操作信息获取模块,用于获取驾驶员的转向操作信息;
处理模块,用于根据所述形态获取模块获取到的所述形态学特征和所述转向
操作信息获取模块获取到的转向操作信息,确定驾驶员的疲劳状况。
进一步地,所述形态获取模块包括:
人脸检测子模块,用于对所述面部图像进行人脸检测,得到人脸区域;
提取子模块,用于提取所述人脸区域中的特征区域,所述特征区域包括眼
睛区域、嘴巴区域中的至少一种;
形态获取子模块,用于根据所述提取子模块提取的特征候选区域,获取所
述驾驶员的形态学特征。
进一步地,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率
和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指
标,所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极
大值中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率
横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经
验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次
数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速
百分比及过线时间中的至少一种。
进一步地,所述处理模块,用于将所述形态学特征和所述转向操作信息作
为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,
f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是
对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是
径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度
疲劳-重度疲劳分类器。
进一步地,所述装置还包括:
警告模块,用于根据所述处理模块得到的所述驾驶员的疲劳状况和车辆的
行驶状态,确定是否发出警告信息。
本发明实施例提供的技术方案带来的有益效果是:本发明实施例综合利用
驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能
够更加准确的对驾驶员疲劳状况进行判断。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所
需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明
的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,
还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种驾驶员疲劳状况检测方法的流程示意图;
图2是本发明实施例提供的另一种驾驶员疲劳状况检测方法的流程示意图;
图3是本发明实施例提供的一种驾驶员疲劳状况检测装置的框图;
图4是本发明实施例提供的另一种驾驶员疲劳状况检测装置的框图;
图5是本发明实施例中的摄像装置及驾驶辅助系统在汽车上的布置示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明
实施方式作进一步地详细描述。
图1为本发明实施例提供的一种驾驶员疲劳状况检测方法的流程示意图,
参考图1,该方法包括:
S11:获取驾驶员的面部图像。
S12:根据获取的面部图像获取驾驶员的形态学特征。
其中,形态学特征可以包括眼睛开闭状态和次数、打哈欠频率、头部晃动
规律及眼睛凝视时间中的至少一种。
S13:获取驾驶员的转向操作信息。
其中,转向操作信息包括统计类指标及经验类指标,其中,统计类指标包
括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾
驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率
横向位置Hi、和横向速度中的至少一种,经验类指标包括方向盘小幅修正次
数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向
盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
S14:根据形态学特征和转向操作信息,确定驾驶员的疲劳状况。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以
判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。
图2是本发明实施例提供的另一种驾驶员疲劳状况检测方法,参考图2,该
方法包括:
S21:获取驾驶员的面部图像。
该步骤21可以利用固定在方向盘前方仪表板之中并正对驾驶员人脸区域的
摄像装置1获取(结合图5)。通常,在车辆启动后,摄像装置开始对驾驶员进
行拍摄,以获取驾驶员的面部图像。
S22:根据获取的面部图像获取驾驶员的形态学特征。
其中,该形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈
欠的频率中的至少一种。
该步骤S22可以包括:
对面部图像进行人脸检测,得到人脸区域;
提取人脸区域中的特征区域,特征区域包括眼睛区域、嘴巴区域中的至少
一种;
根据特征区域获取驾驶员的形态学特征。
进一步地,对面部图像进行人脸检测,得到人脸区域,可以采用如下方式:
首先用肤色信息分割图像,利用聚类分析方法,将近肤色区域分割出来,然后
根据人脸的形状和人脸在图像中的位置,对人脸进行定位。
可选地,提取人脸区域中的特征区域,可以包括:
提取人脸区域中的特征候选区域;
从提取出的特征候选区域中选出特征区域。
其中,提取人脸区域中的特征候选区域可以利用颜色差异实现,比如,眼
睛颜色一般深于周围肤色区域,根据颜色差异提取出眼睛候选区域。
其中,从提取出的特征候选区域中选出特征区域,可以采用特征与分类器
结合的方式实现。例如,Harr特征与SVM(Support Vector Machine,支持向量
机)分类器结合实现。
下面以形态学特征为眼睛开闭状态为例,对根据特征候选区域获取驾驶员
的形态学特征进行详细说明。
预先选取人眼的正负样本(正样本为眼睛图像,负样本为非眼睛图像),采
用正负样本对SVM分类器进行训练。这些样本保存在样本库中,以待后续眼睛
识别调用。然后采集驾驶员驾驶车辆时的面部图像,并对面部图像进行处理以
将眼睛候选区域提取出来,随后将提取出来的眼睛候选区域输入分类器中与样
本库中的人眼样本进行匹配,如果匹配为则眼睛区域,再根据该眼睛区域分析
眼睛的开闭状态,即得到所需的形态学特征。例如,眼睛的开闭状态可以为眼
睛的外接矩形的高宽比。
S23:获取驾驶员的转向操作信息。
其中,转向操作信息包括统计类指标及经验类指标,统计类指标包括根据
驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾驶操作
参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向
位置Hi、和横向速度中的至少一种,经验类指标包括方向盘小幅修正次数、
方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最
大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
其中,驾驶操作参数值可以从车载传感器和CAN(Controller Area Network,
控制器局域网络)总线获取。
需要说明的是,本发明对该步骤S23与步骤S21~步骤S22之间的先后顺序
不做限制。
可选地,本发明实施例还可以包括:
采集不同状态的驾驶员驾驶车辆时的驾驶操作参数值,该驾驶操作参数包
括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、
和横向速度
根据驾驶操作参数确定用于输入SVM中的转向操作信息的类型。
其中,不同状态包括清醒状态,轻度疲劳,重度疲劳,醉酒驾驶,注意力
不集中等状态。
进一步地,用于输入SVM中的转向操作信息的类型可以采用以下方式实现:
采用顺序向前浮动搜索策略,从驾驶员转向操作信息全集Y={yi|i=1,2,…,D}
(D为转向操作信息中的指标的数量)中选择任一驾驶员转向操作信息子集Xk,
以Xk为输入,利用交叉验证法训练和测试基于SVM建立的驾驶员状态检测模
型,测试结果作为评价准则函数值J(Xk),然后以J(Xk)为目标函数,从驾驶员
转向操作信息全集中筛选出使驾驶员状态检测模型别准确率最高的驾驶员转向
操作信息子集,该驾驶员转向操作信息子集即为作为支持向量机输入的转向操
作信息的类型。
S24:将形态学特征和转向操作信息作为支持向量机的输入,采用支持向量
机确定驾驶员的疲劳状况。
其中,该步骤S24采用的支持向量机可以为:
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是
f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分
别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)
是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻
度疲劳-重度疲劳分类器。
该基于SVM的驾驶员疲劳状态检测模型,是以驾驶员转向操作信息子集和
形态学特征作为SVM的输入,采用有序无向图法设定驾驶状态决策得到的。
本发明实施例中,驾驶员的疲劳状况包括清醒、轻度疲劳和重度疲劳。在
其它实施例中,驾驶员的疲劳状况可以只分为清醒和疲劳两种,也可以分为比
三种更多的情况,本发明实施例对此不做限制。
通过该步骤S24,即可实现根据形态学特征和所述转向操作信息,确定驾驶
员的疲劳状况。
S25:根据驾驶员的疲劳状况和车辆行驶状态,确定是否发出警告信息。
其中,车辆行驶状态用于指示车辆是否处于危险状态,该危险状态包括但
不限于车辆是否偏离车道、车辆是否有偏离车道的趋势、车辆周围设定范围内
是否有目标物接近等。目标物包括但不限于人、车辆、建筑物等。车辆行驶状
态可以采用车辆中的驾驶辅助系统获得。
在一种实现方式中,该步骤S25可以包括:
当驾驶员轻度疲劳,并且车辆处于危险状态时,则发出一级警告;
当驾驶员重度疲劳,并且车辆处于危险状态时,则发出二级警告,其中,二
级警告比一级警告程度大。
实现时,警告的方式可以为以设定频率震动方向盘、语音提醒、灯光提醒或
者其中的多种结合的方式。具体到一级警告和二级警告可以采用以下方式,比
如一级警告可以采用低频震动方向盘和语音提醒结合的方式,二级警告可以采
用高频震动方向盘和语音提醒结合的方式。
需要说明的是,在这种实现方式中,当驾驶员处于不同的疲劳状况时,判断
车辆是否处于危险状态的标准可以不同,比如,当驾驶员轻度疲劳时,若车辆
已偏离车道或者车辆周围设定范围内有目标物接近,表示车辆处于危险状态;
而当驾驶员重度疲劳时,车辆有偏离车道的趋势或者车辆周围设定范围内有目
标物接近,表示车辆处于危险状态。
可选地,在另一种实现方式中,该步骤S25还可以包括:
当驾驶员处于疲劳状况(包括轻度疲劳和重度疲劳),并且车辆处于危险状
态时,均采用相同的方式发出警告,警告的方式可以为以设定频率震动方向盘、
语音提醒、灯光提醒或者其中的多种结合的方式。
驾驶员接收警告后,可以及时做出反应,提高行驶安全性。
需要说明的是,在本发明的其他实施例中,该步骤S25还可以采用以下方
式替代:
根据驾驶员的疲劳状况,发出提示信息。
该提示信息可以是警告信息,也可以是音乐提醒等。比如,当驾驶员轻度
疲劳时,通过播放音乐使驾驶员集中注意力。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以
判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。此外,
通过结合驾驶员的疲劳状况和车辆行驶状态,向驾驶员发出警告信息,能够对
驾驶员进行及时提醒,提高了驾驶员驾驶时的安全性。
图3是本发明实施例提供的一种驾驶员疲劳状况检测装置,它适图1所示
实施例所提供的驾驶员疲劳状况检测方法,参考图3,该装置包括:图像获取模
块310、形态获取模块320、转向操作信息获取模块330和处理模块340。
其中,图像获取模块310用于获取驾驶员的面部图像。形态获取模块320用
于根据图像获取模块310获取到的面部图像,获取驾驶员的形态学特征。转向
操作信息获取模块330用于获取驾驶员转向操作信息。处理模块340用于根据
形态获取模块320获取到的形态学特征和转向操作信息获取模块330获取到的
转向操作信息,确定驾驶员的疲劳状况。
其中,形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的
频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,统计类
指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一
种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速
率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘
小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动
时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中
的至少一种。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以
判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。
图4是本发明实施例提供的另一种驾驶员疲劳状况检测装置,它适用于图2
所示实施例所提供的驾驶员疲劳状况检测方法,参考图4,该装置包括:图像获
取模块410、形态获取模块420、转向操作信息获取模块430和处理模块440。
其中,图像获取模块410用于获取驾驶员的面部图像。形态获取模块420用于
根据图像获取模块410获取到的面部图像,获取驾驶员的形态学特征。转向操
作信息获取模块430用于获取驾驶员转向操作信息。处理模块440用于根据形
态获取模块420获取到的形态学特征和转向操作信息获取模块430获取到的转
向操作信息,确定驾驶员的疲劳状况。
其中,形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠
的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,统计
类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少
一种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角
速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向
盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不
动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间
中的至少一种。
作为本实施例的一种实现方式,该处理模块440用于将形态学特征和转向
操作信息作为支持向量机的输入,采用支持向量机以确定驾驶员的疲劳状况,
其中,该支持向量机为:
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是
f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分
别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)
是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻
度疲劳-重度疲劳分类器。
本发明实施例中,驾驶员的疲劳状况包括清醒、轻度疲劳和重度疲劳。在
其它实施例中,驾驶员的疲劳状况可以只分为清醒和疲劳两种,也可以分为比
三种更多的情况,本发明实施例对此不做限制。
优选地,本发明实施例还可以包括警告模块450,该警告模块450用于根据
所述处理模块得到的所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出
警告信息。
可选地,本发明实施例中的形态获取模块420包括人脸检测子模块420a、
提取子模块420b及形态获取子模块420c。
其中,人脸检测子模块420a用于对面部图像进行人脸检测,得到人脸区域。
提取子模块420b用于提取人脸区域中的特征候选区域,该特征候选区域包括眼
睛、嘴巴中的至少一种。形态获取子模块420c用于根据所述提取子模块提取的
特征候选区域,获取驾驶员的形态学特征。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以
判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。此外,
通过结合驾驶员的疲劳状况和车辆行驶状态,向驾驶员发出警告信息,能够对
驾驶员进行及时提醒,提高了驾驶员驾驶时的安全性。
需要说明的是:上述实施例提供的驾驶员疲劳状况判断装置在判断驾驶员
的疲劳状况时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以
根据需要而将上述功能分配由不同的功能模块完成,即将系统的内部结构划分
成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例
提供的驾驶员疲劳状况判断装置与驾驶员疲劳状况判断方法实施例属于同一构
思,其具体实现过程详见方法实施例,这里不再赘述。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过
硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于
一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或
光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的
精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的
保护范围之内。