《眼动追踪方法及装置.pdf》由会员分享,可在线阅读,更多相关《眼动追踪方法及装置.pdf(41页珍藏版)》请在专利查询网上搜索。
1、(10)申请公布号 CN 103885589 A (43)申请公布日 2014.06.25 CN 103885589 A (21)申请号 201410080725.6 (22)申请日 2014.03.06 G06F 3/01(2006.01) G06K 9/00(2006.01) (71)申请人 华为技术有限公司 地址 518129 广东省深圳市龙岗区坂田华为 总部办公楼 申请人 电子科技大学 (72)发明人 郑士胜 程洪 杨路 (74)专利代理机构 北京三高永信知识产权代理 有限责任公司 11138 代理人 黄厚刚 (54) 发明名称 眼动追踪方法及装置 (57) 摘要 本发明公开了一种眼动。
2、追踪方法及装置, 属 于人机交互技术领域。所述方法包括 : 获取至少 两帧图像 ; 在至少两帧图像中获取人眼区域 ; 在 至少两帧图像各自的人眼区域中确定人眼虹膜中 心的位置 ; 在至少两帧图像各自的人眼区域中确 定参考点的位置, 参考点是指与人眼区域保持相 对静止的点 ; 根据至少两帧图像中各自的人眼虹 膜中心的位置和参考点的位置对人眼虹膜中心进 行眼动跟踪 ; 解决了入侵式眼动跟踪技术通常需 要额外的硬件进行辅助才能获取眼睛注视方向的 变化情况的问题 ; 达到了不需要额外的硬件进行 辅助, 通过获取图像就能进行眼动跟踪的效果。 (51)Int.Cl. 权利要求书 6 页 说明书 27 页 。
3、附图 7 页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书6页 说明书27页 附图7页 (10)申请公布号 CN 103885589 A CN 103885589 A 1/6 页 2 1. 一种眼动跟踪方法, 其特征在于, 所述方法包括 : 获取至少两帧图像 ; 在所述至少两帧图像中获取人眼区域 ; 在所述至少两帧图像各自的人眼区域中确定人眼虹膜中心的位置 ; 在所述至少两帧图像各自的人眼区域中确定参考点的位置, 所述参考点是指与所述人 眼区域保持相对静止的点 ; 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置对所 述人眼虹膜中心进行眼动跟踪。 。
4、2. 根据权利要求 1 所述的方法, 其特征在于, 所述在所述至少两帧图像中获取人眼区 域, 包括 : 对于当前帧图像, 若不存在上一帧图像或存在所述上一帧图像且所述上一帧图像中未 检测到所述人眼区域, 则使用默认的按比例逐步变大的搜索窗口搜索所述当前帧图像中的 人眼区域 ; 若存在所述上一帧图像且所述上一帧图像中检测到所述人眼区域, 则使用从所述上一 帧图像中获取到的所述人眼区域时对应的搜索窗口搜索所述当前帧图像中的人眼区域。 3. 根据权利要求 2 所述的方法, 其特征在于, 所述使用从所述上一帧图像中获取到的 所述人眼区域的搜索窗口搜索所述当前帧图像中的人眼区域之后, 还包括 : 如果在。
5、所述当前帧图像中使用从所述上一帧图像中获取到的所述人眼区域时对应的 搜索窗口未搜索到人眼区域, 则使用所述默认的按比例逐步变大的搜索窗口搜索所述当前 帧图像中的人眼区域 ; 或, 使用所述默认的按比例逐步变大的搜索窗口搜索下一帧图像中 的人眼区域。 4.根据权利要求2或3所述的方法, 其特征在于, 所述使用默认的按比例逐步变大的搜 索窗口搜索所述当前帧图像中的人眼区域, 包括 : 使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像中的双眼区域 ; 或, 使用默认的按比例逐步变大的单眼搜索窗口搜索所述当前帧图像中的单眼区域 ; 或, 使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像。
6、中的双眼区域 ; 如果 没有搜索到所述双眼区域, 则使用默认的按比例逐步变大的单眼搜索窗口搜索所述当前帧 图像中的单眼区域。 5.根据权利要求1至4任一所述的方法, 其特征在于, 所述在所述至少两帧图像各自的 所述人眼区域中确定人眼虹膜中心的位置, 包括 : 在所述人眼区域中获取所述人眼区域的至少一个轮廓序列 ; 通过人眼虹膜的特征从所述至少一个轮廓序列中筛选出与所述人眼虹膜的特征相匹 配的人眼虹膜轮廓序列 ; 对所述人眼虹膜轮廓序列进行拟合, 根据拟合结果获取所述人眼虹膜中心的位置。 6.根据权利要求1至4任一所述的方法, 其特征在于, 所述在所述至少两帧图像各自的 所述人眼区域中确定参考点。
7、的位置, 包括 : 在所述人眼区域中获取所述人眼区域的至少一个轮廓序列 ; 通过人眼眼睑的特征从所述至少一个轮廓序列中筛选出与所述人眼眼睑的特征相匹 配的人眼眼睑轮廓序列 ; 权 利 要 求 书 CN 103885589 A 2 2/6 页 3 在所述人眼眼睑轮廓序列中获取所述参考点的位置。 7. 根据权利要求 6 所述的方法, 其特征在于, 所述在所述人眼眼睑轮廓序列中获取所 述参考点的位置, 包括 : 获取所述人眼眼睑轮廓序列中内眼角点和 / 或外眼角点 ; 将所述内眼角点作为所述参考点, 并获取所述参考点的位置 ; 或, 将所述外眼角点作为所述参考点, 并获取所述参考点的位置 ; 或, 。
8、将所述内眼角点和所述外眼角点同时作为所述参考点, 并获取所述参考点的位置。 8. 根据权利要求 7 所述的方法, 其特征在于, 所述获取所述人眼眼睑轮廓序列中内眼 角点, 包括 : 在所述人眼区域中截取内眼角窗口并获取所述内眼角窗口中的人眼眼睑轮廓序列 ; 在所述人眼眼睑轮廓序列中提取至少一个内眼角候选角点, 所述内眼角候选角点为内 眼角检测算子对所述内眼角窗口的边缘图进行卷积运算后得到的最大值所在的位置上的 点 ; 根据内眼角点在所述内眼角窗口中的位置特征从所述至少一个内眼角候选角点中筛 选出与所述位置特征匹配的内眼角点。 9. 根据权利要求 8 所述的方法, 其特征在于, 所述根据内眼角点。
9、在内眼角窗口中的位 置特征从所述至少一个内眼角候选角点中筛选出与所述位置特征匹配的内眼角点, 包括 : 若只有一个内眼角候选角点, 则将所述内眼角候选角点作为与所述位置特征匹配的内 眼角点 ; 若有两个内眼角候选角点, 则将距离所述人眼虹膜中心最远的内眼角候选角点作为与 所述位置特征匹配的内眼角点 ; 若至少有三个内眼角候选角点, 则根据预设的候选角点筛选规则筛选出与所述位置特 征匹配的内眼角点。 10. 根据权利要求 9 所述的方法, 其特征在于, 若截取的是左眼内眼角窗口, 所述若至 少有三个内眼角候选角点, 根据预设的候选角点筛选规则筛选出与所述位置特征匹配的内 眼角点, 包括 : 从所。
10、述至少三个内眼角候选角点中找出横坐标的最大值和纵坐标的最小值 ; 在以所述横坐标的最大值和纵坐标的最小值形成的坐标点为中心的预设邻域内找出 至少一个内眼角候选角点 ; 对找出的所述内眼角候选角点的横坐标求平均得到第一平均值, 对所述找出的所述内 眼角候选角点的纵坐标求平均得到第二平均值 ; 将所述第一平均值和所述第二平均值形成的坐标点所在的位置作为所述参考点的位 置。 11.根据权利要求1至10任一所述的方法, 其特征在于, 所述根据所述至少两帧图像中 各自的所述人眼虹膜中心的位置和所述参考点的位置对所述人眼虹膜中心进行眼动跟踪, 包括 : 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和。
11、所述参考点的位置获取 所述人眼虹膜中心相对于所述参考点的运动参数 ; 或, 权 利 要 求 书 CN 103885589 A 3 3/6 页 4 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置获取 所述人眼虹膜中心相对于所述参考点的注视位置。 12. 根据权利要求 11 所述的方法, 其特征在于, 所述根据所述至少两帧图像中各自的 所述人眼虹膜中心的位置和所述参考点的位置获取所述人眼虹膜中心相对于所述参考点 的运动参数, 包括 : 对于每帧图像, 计算所述图像中的人眼虹膜中心相对于所述图像中的所述参考点的运 动矢量 ; 根据所述至少两帧图像中每帧图像计算得到的所述运动矢量。
12、获取所述人眼虹膜中心 相对于所述参考点的运动参数, 所述运动参数包括运动方向、 运动速度、 运动加速度和运动 距离中的至少一种。 13. 根据权利要求 11 所述的方法, 其特征在于, 所述根据所述至少两帧图像中的所述 人眼虹膜中心的位置和所述参考点的位置获取所述人眼虹膜中心相对于所述参考点的注 视位置, 包括 : 若在所述人眼区域中获取的参考点包括有内眼角点和外眼角点, 则根据所述内眼角点 和所述外眼角点的距离进行虚拟人眼的建模 ; 通过所述人眼虹膜中心相对于所述内眼角点和所述外眼角点的位置计算出所述人眼 虹膜中心相对于虚拟人眼所在的区域 ; 根据所述人眼虹膜中心相对于虚拟人眼所在的区域以及。
13、预设人眼模态参数获取人眼 在屏幕上的注视区域和 / 或注视点, 所述预设人眼模态参数用于根据所述人眼虹膜中心相 对于虚拟人眼所在的区域将人眼视线映射到屏幕上对应的位置。 14. 根据权利要求 12 所述的方法, 其特征在于, 所述根据所述运动矢量获取所述人眼 虹膜中心相对于所述参考点的运动参数之后, 包括 : 若所述人眼虹膜中心移动到所述参考点的右下方的第一预定范围后停止移动, 并在第 一预定时间内从所述第一预定范围转变到所述参考点中心的左上方时, 则发出翻页命令进 行翻页 ; 若所述人眼虹膜中心相对于所述参考点移动的距离在预定距离内时, 则保持当前界面 不变。 15. 根据权利要求 13 所。
14、述的方法, 其特征在于, 所述根据所述人眼虹膜中心相对于虚 拟人眼所在的区域以及预设人眼模态参数获取人眼在屏幕上的注视区域和 / 或注视点之 后, 包括 : 当所述人眼在屏幕上的注视区域和 / 注视点停留在第二预定范围内达到第二预定时 间时, 则根据检测到的所述人眼的凝视或者眨眼的状态激活相应的操作, 所述操作包括启 动应用程序、 自动翻页、 终端解锁和视频暂停中的任意一种。 16. 一种眼动跟踪装置, 其特征在于, 所述装置包括 : 图像获取模块, 用于获取至少两帧图像 ; 区域获取模块, 用于在所述至少两帧图像中获取人眼区域 ; 中心确定模块, 用于在所述至少两帧图像各自的人眼区域中确定人。
15、眼虹膜中心的位 置 ; 参考点定位模块, 用于在所述至少两帧图像各自的人眼区域中确定参考点的位置, 所 权 利 要 求 书 CN 103885589 A 4 4/6 页 5 述参考点是指与所述人眼区域保持相对静止的点 ; 眼动跟踪模块, 用于根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述 参考点的位置对所述人眼虹膜中心进行眼动跟踪。 17. 根据权利要求 16 所述的装置, 其特征在于, 所述区域获取模块, 包括 : 第一搜索子模块, 用于对于当前帧图像, 若不存在上一帧图像或存在所述上一帧图像 且所述上一帧图像中未检测到所述人眼区域, 则使用默认的按比例逐步变大的搜索窗口搜 索所述。
16、当前帧图像中的人眼区域 ; 第二搜索子模块, 用于若存在所述上一帧图像且所述上一帧图像中检测到所述人眼区 域, 则使用从所述上一帧图像中获取到的所述人眼区域时对应的搜索窗口搜索所述当前帧 图像中的人眼区域。 18. 根据权利要求 17 所述的装置, 其特征在于, 所述装置, 还包括 : 第三搜索子模块, 用于如果在所述当前帧图像中使用从所述上一帧图像中获取到的所 述人眼区域时对应的搜索窗口未搜索到人眼区域, 则使用所述默认的按比例逐步变大的搜 索窗口搜索所述当前帧图像中的人眼区域 ; 或, 使用所述默认的按比例逐步变大的搜索窗 口搜索下一帧图像中的人眼区域。 19. 根据权利要求 17 或 1。
17、8 所述的装置, 其特征在于, 所述第一搜索子模块, 包括 : 双眼搜索单元, 用于使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像 中的双眼区域 ; 或, 单眼搜索单元, 用于使用默认的按比例逐步变大的单眼搜索窗口搜索所述当前帧图像 中的单眼区域 ; 或, 双单搜索单元, 用于使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像 中的双眼区域 ; 如果没有搜索到所述双眼区域, 则使用默认的按比例逐步变大的单眼搜索 窗口搜索所述当前帧图像中的单眼区域。 20. 根据权利要求 16 至 19 任一所述的装置, 其特征在于, 所述中心确定模块, 包括 : 第一获取子模块, 用于在所述人。
18、眼区域中获取所述人眼区域的至少一个轮廓序列 ; 第一筛选子模块, 用于通过人眼虹膜的特征从所述至少一个轮廓序列中筛选出与所述 人眼虹膜的特征相匹配的人眼虹膜轮廓序列 ; 中心获取子模块, 用于对所述人眼虹膜轮廓序列进行拟合, 根据拟合结果获取所述人 眼虹膜中心的位置。 21. 根据权利要求 16 至 19 任一所述的装置, 其特征在于, 所述参考点定位模块, 包括 : 第二获取子模块, 用于在所述人眼区域中获取所述人眼区域的至少一个轮廓序列 ; 第二筛选子模块, 用于通过人眼眼睑的特征从所述至少一个轮廓序列中筛选出与所述 人眼眼睑的特征相匹配的人眼眼睑轮廓序列 ; 参考点获取子模块, 用于在所。
19、述人眼眼睑轮廓序列中获取所述参考点的位置。 22. 根据权利要求 21 所述的装置, 其特征在于, 所述参考点获取子模块, 还用于获取所述人眼眼睑轮廓序列中内眼角点和 / 或外眼角 点 ; 所述参考点获取子模块, 还用于将所述内眼角点作为所述参考点, 并获取所述参考点 的位置 ; 或, 权 利 要 求 书 CN 103885589 A 5 5/6 页 6 所述参考点获取子模块, 还用于将所述外眼角点作为所述参考点, 并获取所述参考点 的位置 ; 或, 所述参考点获取子模块, 还用于将所述内眼角点和所述外眼角点同时作为所述参考 点, 并获取所述参考点的位置。 23. 根据权利要求 22 所述的装。
20、置, 其特征在于, 所述参考点获取子模块, 包括 : 窗口截取单元, 用于在所述人眼区域中截取内眼角窗口并获取所述内眼角窗口中的人 眼眼睑轮廓序列 ; 角点提取单元, 用于在所述人眼眼睑轮廓序列中提取至少一个内眼角候选角点, 所述 内眼角候选角点为内眼角检测算子对所述内眼角窗口的边缘图进行卷积运算后得到的最 大值所在的位置上的点 ; 角点筛选单元, 用于根据内眼角点在所述内眼角窗口中的位置特征从所述至少一个内 眼角候选角点中筛选出与所述位置特征匹配的内眼角点。 24. 根据权利要求 23 所述的装置, 其特征在于, 所述角点筛选单元, 包括 : 第一确定子单元, 用于若只有一个内眼角候选角点,。
21、 则将所述内眼角候选角点作为与 所述位置特征匹配的内眼角点 ; 第二确定子单元, 用于若有两个内眼角候选角点, 则将距离所述人眼虹膜中心最远的 内眼角候选角点作为与所述位置特征匹配的内眼角点 ; 第三确定子单元, 用于若至少有三个内眼角候选角点, 则根据预设的候选角点筛选规 则筛选出与所述位置特征匹配的内眼角点。 25. 根据权利要求 24 所述的装置, 其特征在于, 若截取的是左眼内眼角窗口, 所述第三确定子单元, 还用于从所述至少三个内眼角候选角点中找出横坐标的最大值 和纵坐标的最小值 ; 所述第三确定子单元, 还用于在以所述横坐标的最大值和纵坐标的最小值形成的坐标 点为中心的预设邻域内找。
22、出至少一个内眼角候选角点 ; 所述第三确定子单元, 还用于对找出的所述内眼角候选角点的横坐标求平均得到第一 平均值, 对所述找出的所述内眼角候选角点的纵坐标求平均得到第二平均值 ; 所述第三确定子单元, 还用于将所述第一平均值和所述第二平均值形成的坐标点所在 的位置作为所述参考点的位置。 26. 根据权利要求 16 至 25 任一所述的装置, 其特征在于, 所述眼动跟踪模块, 包括 : 运动参数获取子模块, 用于根据所述至少两帧图像中各自的所述人眼虹膜中心的位置 和所述参考点的位置获取所述人眼虹膜中心相对于所述参考点的运动参数 ; 或, 注视位置获取子模块, 用于根据所述至少两帧图像中各自的所。
23、述人眼虹膜中心的位置 和所述参考点的位置获取所述人眼虹膜中心相对于所述参考点的注视位置。 27. 根据权利要求 26 所述的装置, 其特征在于, 所述运动参数获取子模块, 包括 : 矢量计算单元, 用于对于每帧图像, 计算所述图像中的人眼虹膜中心相对于所述图像 中的所述参考点的运动矢量 ; 参数获取单元, 用于根据所述至少两帧图像中每帧图像计算得到的所述运动矢量获取 所述人眼虹膜中心相对于所述参考点的运动参数, 所述运动参数包括运动方向、 运动速度、 权 利 要 求 书 CN 103885589 A 6 6/6 页 7 运动加速度和运动距离中的至少一种。 28. 根据权利要求 26 所述的装置。
24、, 其特征在于, 所述注视位置获取子模块, 包括 : 人眼建模单元, 用于若在所述人眼区域中获取的参考点包括有内眼角点和外眼角点, 则根据所述内眼角点和所述外眼角点的距离进行虚拟人眼的建模 ; 区域计算单元, 用于通过所述人眼虹膜中心相对于所述内眼角点和所述外眼角点的位 置计算出所述人眼虹膜中心相对于虚拟人眼所在的区域 ; 位置获取单元, 用于根据所述人眼虹膜中心相对于虚拟人眼所在的区域以及预设人眼 模态参数获取人眼在屏幕上的注视区域和 / 或注视点, 所述预设人眼模态参数用于根据所 述人眼虹膜中心相对于虚拟人眼所在的区域将人眼视线映射到屏幕上对应的位置。 29. 根据权利要求 27 所述的装。
25、置, 其特征在于, 所述装置, 还包括 : 第一执行模块, 用于若所述人眼虹膜中心移动到所述参考点的右下方的第一预定范 围后停止移动, 并在第一预定时间内从所述第一预定范围转变到所述参考点中心的左上方 时, 则发出翻页命令进行翻页 ; 第二执行模块, 用于若所述人眼虹膜中心相对于所述参考点移动的距离在预定距离内 时, 则保持当前界面不变。 30. 根据权利要求 28 所述的装置, 其特征在于, 所述装置, 还包括 : 第三执行模块, 用于当所述人眼在屏幕上的注视区域和 / 注视点停留在第二预定范 围内达到第二预定时间时, 则根据检测到的所述人眼的凝视或者眨眼的状态激活相应的操 作, 所述操作包。
26、括启动应用程序、 自动翻页、 终端解锁和视频暂停中的任意一种。 权 利 要 求 书 CN 103885589 A 7 1/27 页 8 眼动追踪方法及装置 技术领域 0001 本发明实施例涉及人机交互技术领域, 特别涉及一种眼动追踪方法及装置。 背景技术 0002 随着新技术新设备的诞生, 在移动终端上通过眼动跟踪技术控制移动终端进行相 应操作的研究越来越为人所熟知。 0003 眼动跟踪技术最根本的问题是要测量眼睛观察方向的变化情况。 相关的入侵式眼 动跟踪技术有多种, 包括瞳孔-角膜反射向量法、 眼电图法、 虹膜-巩膜边缘法、 角膜反射跟 踪法、 接触镜法等。比如, 在人机交互场景常用的瞳孔。
27、 - 角膜反射向量法, 该方法的原理如 下 : 当用一红外辅助光源照射人的脸部, 在眼睛角膜表面会形成反射像, 此反射像被称为普 尔钦斑点, 人眼在观察终端屏幕上的不同位置时, 眼球会发生相应的转动。 假设在实验者的 头部不动的情况下, 由于红外发光二极管的位置是固定的, 而眼球是一个近似的球体, 所以 当眼球转动时, 可以认为普尔钦斑点的绝对位置是不变的 ; 而瞳孔的位置要发生相应的变 化, 这样红外辅助光源在角膜上形成的普尔钦斑点和瞳孔之间的相对位置关系也将发生变 化, 这种相对位置关系的确定可以通过图像处理来实现 ; 然后由它们之间的相对位置关系 测量出眼睛观察方向的变化情况。 0004。
28、 在实现本发明实施例的过程中, 发明人发现背景技术中至少存在以下问题 : 为了 获取眼睛观察方向的变化情况, 上述入侵式眼动跟踪技术通常需要额外的硬件进行辅助, 比如瞳孔 - 角膜反射向量法所采用的红外辅助光源、 眼电图法所使用的电流信号和接触镜 法所使用的小镜子。 这些额外的硬件都会给用户的眼睛带来不舒适感, 甚至造成伤害, 另外 使用额外的硬件设备还需要额外的成本投入。 发明内容 0005 为了解决背景技术中入侵式眼动跟踪技术通常需要额外的硬件进行辅助才能获 取眼睛注视方向的变化情况的问题, 本发明实施例提供了一种眼动追踪方法及装置。所述 技术方案如下 : 0006 第一方面, 提供了一种。
29、眼动跟踪方法, 所述方法包括 : 0007 获取至少两帧图像 ; 0008 在所述至少两帧图像中获取人眼区域 ; 0009 在所述至少两帧图像各自的人眼区域中确定人眼虹膜中心的位置 ; 0010 在所述至少两帧图像各自的人眼区域中确定参考点的位置, 所述参考点是指与所 述人眼区域保持相对静止的点 ; 0011 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置 对所述人眼虹膜中心进行眼动跟踪。 0012 在第一方面的第一种可能的实施方式中, 所述在所述至少两帧图像中获取人眼区 域, 包括 : 说 明 书 CN 103885589 A 8 2/27 页 9 0013 对于当前帧。
30、图像, 若不存在上一帧图像或存在所述上一帧图像且所述上一帧图像 中未检测到所述人眼区域, 则使用默认的按比例逐步变大的搜索窗口搜索所述当前帧图像 中的人眼区域 ; 0014 若存在所述上一帧图像且所述上一帧图像中检测到所述人眼区域, 则使用从所述 上一帧图像中获取到的所述人眼区域时对应的搜索窗口搜索所述当前帧图像中的人眼区 域。 0015 结合第一方面或者第一方面的第一种可能的实施方式, 在第二种可能的实施方式 中, 所述使用从所述上一帧图像中获取到的所述人眼区域的搜索窗口搜索所述当前帧图像 中的人眼区域之后, 还包括 : 0016 如果在所述当前帧图像中使用从所述上一帧图像中获取到的所述人眼。
31、区域时对 应的搜索窗口未搜索到人眼区域, 则使用所述默认的按比例逐步变大的搜索窗口搜索所述 当前帧图像中的人眼区域 ; 或, 使用所述默认的按比例逐步变大的搜索窗口搜索下一帧图 像中的人眼区域。 0017 结合第一方面、 第一方面的第一种可能的实施方式或者第一方面的第二种可能的 实施方式, 在第三种可能的实施方式中, 所述使用默认的按比例逐步变大的搜索窗口搜索 所述当前帧图像中的人眼区域, 包括 : 0018 使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像中的双眼区域 ; 或, 0019 使用默认的按比例逐步变大的单眼搜索窗口搜索所述当前帧图像中的单眼区域 ; 或, 0020 使用默。
32、认的按比例逐步变大的双眼搜索窗口搜索所述当前帧图像中的双眼区域 ; 如果没有搜索到所述双眼区域, 则使用默认的按比例逐步变大的单眼搜索窗口搜索所述当 前帧图像中的单眼区域。 0021 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式或者第一方面的第三种可能的实施方式, 在第四种可能的实施方式中, 所述在所述 至少两帧图像各自的所述人眼区域中确定人眼虹膜中心的位置, 包括 : 0022 在所述人眼区域中获取所述人眼区域的至少一个轮廓序列 ; 0023 通过人眼虹膜的特征从所述至少一个轮廓序列中筛选出与所述人眼虹膜的特征 相匹配的人眼虹膜轮廓序列 ; 0024 对。
33、所述人眼虹膜轮廓序列进行拟合, 根据拟合结果获取所述人眼虹膜中心的位 置。 0025 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式或者第一方面的第三种可能的实施方式, 在第五种可能的实施方式中, 所述在所述 至少两帧图像各自的所述人眼区域中确定参考点的位置, 包括 : 0026 在所述人眼区域中获取所述人眼区域的至少一个轮廓序列 ; 0027 通过人眼眼睑的特征从所述至少一个轮廓序列中筛选出与所述人眼眼睑的特征 相匹配的人眼眼睑轮廓序列 ; 0028 在所述人眼眼睑轮廓序列中获取所述参考点的位置。 0029 结合第一方面、 第一方面的第一种可能的实施方式、。
34、 第一方面的第二种可能的实 说 明 书 CN 103885589 A 9 3/27 页 10 施方式、 第一方面的第三种可能的实施方式或者第一方面的第五种可能的实施方式, 在第 六种可能的实施方式中, 所述在所述人眼眼睑轮廓序列中获取所述参考点的位置, 包括 : 0030 获取所述人眼眼睑轮廓序列中内眼角点和 / 或外眼角点 ; 0031 将所述内眼角点作为所述参考点, 并获取所述参考点的位置 ; 或, 0032 将所述外眼角点作为所述参考点, 并获取所述参考点的位置 ; 或, 0033 将所述内眼角点和所述外眼角点同时作为所述参考点, 并获取所述参考点的位 置。 0034 结合第一方面、 第。
35、一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第五种可能的实施方式或者第一 方面的第六种可能的实施方式, 在第七种可能的实施方式中, 所述获取所述人眼眼睑轮廓 序列中内眼角点, 包括 : 0035 在所述人眼区域中截取内眼角窗口并获取所述内眼角窗口中的人眼眼睑轮廓序 列 ; 0036 在所述人眼眼睑轮廓序列中提取至少一个内眼角候选角点, 所述内眼角候选角点 为内眼角检测算子对所述内眼角窗口的边缘图进行卷积运算后得到的最大值所在的位置 上的点 ; 0037 根据内眼角点在所述内眼角窗口中的位置特征从所述至少一个内眼角候选角点 中筛。
36、选出与所述位置特征匹配的内眼角点。 0038 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第五种可能的实施方式、 第一方面 的第六种可能的实施方式或者第一方面的第七种可能的实施方式, 在第八种可能的实施方 式中, 所述根据内眼角点在内眼角窗口中的位置特征从所述至少一个内眼角候选角点中筛 选出与所述位置特征匹配的内眼角点, 包括 : 0039 若只有一个内眼角候选角点, 则将所述内眼角候选角点作为与所述位置特征匹配 的内眼角点 ; 0040 若有两个内眼角候选角点, 则将距离所述人眼虹膜中心最远的内眼角候选角点。
37、作 为与所述位置特征匹配的内眼角点 ; 0041 若至少有三个内眼角候选角点, 则根据预设的候选角点筛选规则筛选出与所述位 置特征匹配的内眼角点。 0042 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第五种可能的实施方式、 第一方面 的第六种可能的实施方式、 第一方面的第七种可能的实施方式或者第一方面的第八种可能 的实施方式, 在第九种可能的实施方式中, 若截取的是左眼内眼角窗口, 所述若至少有三个 内眼角候选角点, 根据预设的候选角点筛选规则筛选出与所述位置特征匹配的内眼角点, 包括 : 0043 从所述。
38、至少三个内眼角候选角点中找出横坐标的最大值和纵坐标的最小值 ; 0044 在以所述横坐标的最大值和纵坐标的最小值形成的坐标点为中心的预设邻域内 找出至少一个内眼角候选角点 ; 0045 对找出的所述内眼角候选角点的横坐标求平均得到第一平均值, 对找出的所述内 说 明 书 CN 103885589 A 10 4/27 页 11 眼角候选角点的纵坐标求平均得到第二平均值 ; 0046 将所述第一平均值和所述第二平均值形成的坐标点所在的位置作为所述参考点 的位置。 0047 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方。
39、面的第四种可能的实施方式、 第一方面 的第五种可能的实施方式、 第一方面的第六种可能的实施方式、 第一方面的第七种可能的 实施方式、 第一方面的第八种可能的实施方式或者第一方面的第九种可能的实施方式, 在 第十种可能的实施方式中, 所述根据所述至少两帧图像中各自的所述人眼虹膜中心的位置 和所述参考点的位置对所述人眼虹膜中心进行眼动跟踪, 包括 : 0048 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置 获取所述人眼虹膜中心相对于所述参考点的运动参数 ; 0049 或, 0050 根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置 获取所述人眼虹膜中心相。
40、对于所述参考点的注视位置。 0051 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第四种可能的实施方式、 第一方面 的第五种可能的实施方式、 第一方面的第六种可能的实施方式、 第一方面的第七种可能的 实施方式、 第一方面的第八种可能的实施方式、 第一方面的第九种可能的实施方式或者第 一方面的第十种可能的实施方式中, 在第十一种可能的实施方式中, 所述根据所述至少两 帧图像中各自的所述人眼虹膜中心的位置和所述参考点的位置获取所述人眼虹膜中心相 对于所述参考点的运动参数, 包括 : 0052 对于每帧图像, 计算。
41、所述图像中的人眼虹膜中心相对于所述图像中的所述参考点 的运动矢量 ; 0053 根据所述至少两帧图像中每帧图像计算得到的所述运动矢量获取所述人眼虹膜 中心相对于所述参考点的运动参数, 所述运动参数包括运动方向、 运动速度、 运动加速度和 运动距离中的至少一种。 0054 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第四种可能的实施方式、 第一方面 的第五种可能的实施方式、 第一方面的第六种可能的实施方式、 第一方面的第七种可能的 实施方式、 第一方面的第八种可能的实施方式、 第一方面的第九种可能的实施方式或者。
42、第 一方面的第十种可能的实施方式, 在第十二种可能的实施方式中, 所述根据所述至少两帧 图像中的所述人眼虹膜中心的位置和所述参考点的位置获取所述人眼虹膜中心相对于所 述参考点的注视位置, 包括 : 0055 若在所述人眼区域中获取的参考点包括有内眼角点和外眼角点, 则根据所述内眼 角点和所述外眼角点的距离进行虚拟人眼的建模 ; 0056 通过所述人眼虹膜中心相对于所述内眼角点和所述外眼角点的位置计算出所述 人眼虹膜中心相对于虚拟人眼所在的区域 ; 0057 根据所述人眼虹膜中心相对于虚拟人眼所在的区域以及预设人眼模态参数获取 人眼在屏幕上的注视区域和 / 或注视点, 所述预设人眼模态参数用于根。
43、据所述人眼虹膜中 说 明 书 CN 103885589 A 11 5/27 页 12 心相对于虚拟人眼所在的区域将人眼视线映射到屏幕上对应的位置。 0058 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第四种可能的实施方式、 第一方面 的第五种可能的实施方式、 第一方面的第六种可能的实施方式、 第一方面的第七种可能的 实施方式、 第一方面的第八种可能的实施方式、 第一方面的第九种可能的实施方式、 第一方 面的第十种可能的实施方式或者第一方面的第十一种可能的实施方式, 在第十三种可能的 实施方式中, 所述根据所。
44、述运动矢量获取所述人眼虹膜中心相对于所述参考点的运动参数 之后, 包括 : 0059 若所述人眼虹膜中心移动到所述参考点的右下方的第一预定范围后停止移动, 并 在第一预定时间内从所述第一预定范围转变到所述参考点的左上方时, 则发出翻页命令进 行翻页 ; 0060 若所述人眼虹膜中心相对于所述参考点移动的距离在预定距离内时, 则保持当前 界面不变。 0061 结合第一方面、 第一方面的第一种可能的实施方式、 第一方面的第二种可能的实 施方式、 第一方面的第三种可能的实施方式、 第一方面的第四种可能的实施方式、 第一方面 的第五种可能的实施方式、 第一方面的第六种可能的实施方式、 第一方面的第七种。
45、可能的 实施方式、 第一方面的第八种可能的实施方式、 第一方面的第九种可能的实施方式、 第一方 面的第十种可能的实施方式或者第十二种可能的实施方式, 在第十四种可能的实施方式 中, 所述根据所述人眼虹膜中心相对于虚拟人眼所在的区域以及预设人眼模态参数获取人 眼在屏幕上的注视区域和 / 或注视点之后, 包括 : 0062 当所述人眼在屏幕上的注视区域和 / 注视点停留在第二预定范围内达到第二预 定时间时, 则根据检测到的所述人眼的凝视或者眨眼的状态激活相应的操作, 所述操作包 括启动应用程序、 自动翻页、 终端解锁和视频暂停中的任意一种。 0063 第二方面, 提供了一种眼动跟踪装置, 所述装置。
46、包括 : 0064 图像获取模块, 用于获取至少两帧图像 ; 0065 区域获取模块, 用于在所述至少两帧图像中获取人眼区域 ; 0066 中心确定模块, 用于在所述至少两帧图像各自的人眼区域中确定人眼虹膜中心的 位置 ; 0067 参考点定位模块, 用于在所述至少两帧图像各自的人眼区域中确定参考点的位 置, 所述参考点是指与所述人眼区域保持相对静止的点 ; 0068 眼动跟踪模块, 用于根据所述至少两帧图像中各自的所述人眼虹膜中心的位置和 所述参考点的位置对所述人眼虹膜中心进行眼动跟踪。 0069 在第二方面的第一种可能的实施方式中, 所述区域获取模块, 包括 : 0070 第一搜索子模块,。
47、 用于对于当前帧图像, 若不存在上一帧图像或存在所述上一帧 图像且所述上一帧图像中未检测到所述人眼区域, 则使用默认的按比例逐步变大的搜索窗 口搜索所述当前帧图像中的人眼区域 ; 0071 第二搜索子模块, 用于若存在所述上一帧图像且所述上一帧图像中检测到所述人 眼区域, 则使用从所述上一帧图像中获取到的所述人眼区域时对应的搜索窗口搜索所述当 前帧图像中的人眼区域。 说 明 书 CN 103885589 A 12 6/27 页 13 0072 结合第二方面或者第二方面的第一种可能的实施方式, 在第二种可能的实施方式 中, 所述装置, 还包括 : 0073 第三搜索子模块, 用于如果在所述当前帧。
48、图像中使用从所述上一帧图像中获取到 的所述人眼区域时对应的搜索窗口未搜索到人眼区域, 则使用所述默认的按比例逐步变大 的搜索窗口搜索所述当前帧图像中的人眼区域 ; 或, 使用所述默认的按比例逐步变大的搜 索窗口搜索下一帧图像中的人眼区域。 0074 结合第二方面、 第二方面的第一种可能的实施方式或者第二方面的第二种可能的 实施方式, 在第三种可能的实施方式中, 所述第一搜索子模块, 包括 : 0075 双眼搜索单元, 用于使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧 图像中的双眼区域 ; 或, 0076 单眼搜索单元, 用于使用默认的按比例逐步变大的单眼搜索窗口搜索所述当前帧 图像中的。
49、单眼区域 ; 或, 0077 双单搜索单元, 用于使用默认的按比例逐步变大的双眼搜索窗口搜索所述当前帧 图像中的双眼区域 ; 如果没有搜索到所述双眼区域, 则使用默认的按比例逐步变大的单眼 搜索窗口搜索所述当前帧图像中的单眼区域。 0078 结合第二方面、 第二方面的第一种可能的实施方式、 第二方面的第二种可能的实 施方式或者第二方面的第三种可能的实施方式, 在第四种可能的实施方式中, 所述中心确 定模块, 包括 : 0079 第一获取子模块, 用于在所述人眼区域中获取所述人眼区域的至少一个轮廓序 列 ; 0080 第一筛选子模块, 用于通过人眼虹膜的特征从所述至少一个轮廓序列中筛选出与 所述人眼虹膜的特征相匹配的人眼虹膜轮廓序列 ; 0081 中心获取子模块, 用于对所述人眼虹膜轮廓序列进行拟合, 根据拟合结果获取所 述人眼虹膜中心的位置。 0082 结合第二方面、 第二方面的第一种可能的实施方式、 第二方面的第二种可能的实 施方式或者第二方面的第三种可能的。