虹膜分割是虹膜识别技术的关键环节。随着虹膜识别应用更高需求的提出,虹膜分割算法在非限制的复杂场景和跨设备应用中,面临着越来越多的挑战。为了提高虹膜分割的性能,本文提出了两种虹膜分割算法,分别是基于多任务卷积神经网络的虹膜分割算法和基于全卷积神经网络的虹膜分割算法,主要内容如下:基于多任务卷积网络的虹膜分割算法通过虹膜边界关键点位置来确定待分割的虹膜区域。首先采用径向对称变换算法确定瞳孔位置,使图像以瞳孔位置中心化;其次,提出了轻量级的小型关键点检测卷积网络,并设计了四种关键点检测相关的分类任务:光照遮挡,镜框遮挡,眼睛完全睁开,眼睑严重遮挡,通过多任务学习策略,利用这四个任务辅助关键点检测任务,提升模型泛化能力;最后,根据关键点估计边界曲线,将边界曲线包围的封闭区域作为虹膜区域。该算法在CASIA-Iris-Thousand数据库中边界关键点检测的平均定位误差为5.35%,虹膜分割像素级精度和均交并比分别为99.96%和97.92%,模型大小为7.32M,一张图像关键点检测网络用时为23.0ms。基于全卷积网络的虹膜分割算法通过逐像素点分类确定虹膜区域。首先基于先验知识设计了轻量级的小型全卷积虹膜分割网络;其次,在不增加网络参数量的前提下,提出了四种虹膜分割优化算法:（1）针对虹膜图像像素点类别不均衡的问题,通过加权损失使网络训练过程中关注虹膜区域像素点,令虹膜区域的分割精度显著提升;（2）为了使网络能够有效结合深浅层特征信息,设计了多级空洞卷积密集连接结构,使得网络加强对细节的分割效果;（3）利用多尺度图像金字塔和多监督信号的并行训练优化策略,增强网络对虹膜目标尺度变化的适应性,得到鲁棒的分割模型;（4）基于生成对抗网络的思想,将虹膜图像的分割网络预测输出与真实标签送入判别器中,在分割网络与判别网络的博弈过程中,强化分割网络产生对虹膜图像更为精细的分割结果。实验表明,结合四种优化项,该算法在UBIRIS.v2数据库上的像素级精度和均交并比分别为99.30%和95.35%,在CASIA-Iris-Thousand数据库上的像素级精度和均交并比分别为99.66%和96.75%。模型大小仅为6.2M,两个库中一张图像分割时间分别为41.56ms和63.03ms。另外,本文将上述的生成对抗网络的虹膜分割算法推广至解决跨设备、无监督虹膜图像分割的域适应问题。将带有标签可见光虹膜图像作为源域,分割网络在源域学习的知识迁移到目标域无标签的近红外虹膜图像上。在实验中,本文将UBIRIS.v2数据库作为源域,CASIA-Iris-Thousand数据库为目标域,跨设备无监督的目标域分割结果的像素级精度为98.24%,源域像素级精度结果为99.24%,该结果表明本文算法不仅可以无监督分割虹膜图像,并且跨设备虹膜图像的分割具有较好的泛化性。