使用网络摄像头、OpenCV 和 Python 跟踪眼瞳位置

我正在尝试建造一个可以通过基本的眼球运动来控制的机器人。我将网络摄像头对准我的脸，根据我瞳孔的位置，机器人会以某种方式移动。如果瞳孔位于眼睛的上、下、左、右角，机器人将分别向前、向后、向左、向右移动。

我最初的计划是使用眼哈尔级联来找到我的左眼。然后我会在眼睛区域使用霍夫圆来找到瞳孔的中心。我会通过找到从霍夫圆中心到一般眼睛区域边界的距离来确定瞳孔在眼睛中的位置。

因此，对于我的代码的第一部分，我希望能够跟踪眼睛瞳孔的中心，如本视频所示。https://youtu.be/aGmGyFLQAFM?t=38 https://youtu.be/aGmGyFLQAFM?t=38

但是当我运行我的代码时，它无法始终找到瞳孔的中心。霍夫圆经常画在错误的区域。即使眼睛移动，我怎样才能让我的程序始终找到瞳孔的中心？

我是否可以/更好/更容易地告诉我的程序学生一开始在哪里？ 我研究过其他一些眼球追踪方法，但我无法形成通用算法。如果有人可以帮助形成一个，那将不胜感激！https://arxiv.org/ftp/arxiv/papers/1202/1202.6517.pdf https://arxiv.org/ftp/arxiv/papers/1202/1202.6517.pdf

import numpy as np
import cv2

face_cascade = cv2.CascadeClassifier('haarcascade_frontalface_default.xml')
eye_cascade = cv2.CascadeClassifier('haarcascade_righteye_2splits.xml')

#number signifies camera
cap = cv2.VideoCapture(0)

while 1:
    ret, img = cap.read()
    gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
    #faces = face_cascade.detectMultiScale(gray, 1.3, 5)
    eyes = eye_cascade.detectMultiScale(gray)
    for (ex,ey,ew,eh) in eyes:
        cv2.rectangle(img,(ex,ey),(ex+ew,ey+eh),(0,255,0),2)
        roi_gray2 = gray[ey:ey+eh, ex:ex+ew]
        roi_color2 = img[ey:ey+eh, ex:ex+ew]
        circles = cv2.HoughCircles(roi_gray2,cv2.HOUGH_GRADIENT,1,20,param1=50,param2=30,minRadius=0,maxRadius=0)
        try:
            for i in circles[0,:]:
                # draw the outer circle
                cv2.circle(roi_color2,(i[0],i[1]),i[2],(255,255,255),2)
                print("drawing circle")
                # draw the center of the circle
                cv2.circle(roi_color2,(i[0],i[1]),2,(255,255,255),3)
        except Exception as e:
            print e
    cv2.imshow('img',img)
    k = cv2.waitKey(30) & 0xff
    if k == 27:
        break

cap.release()
cv2.destroyAllWindows()

从我之前所做的一些工作中，我可以看到两种选择：

1. 训练 Haar 检测器来检测眼球，使用以瞳孔中心为中心、眼球宽度为宽度的训练图像。我发现这比使用霍夫圆或 OpenCV 的原始眼检测器（代码中使用的那个）更好。

2. 使用Dlib的面部标志点来估计眼睛区域。然后利用眼球的白色和黑色区域引起的对比度以及轮廓来估计瞳孔的中心。这产生了更好的结果。