论文部分内容阅读
听觉注意是听觉系统得以正常工作的关键,听觉注意的研究使得人们对听觉系统有了进一步的认识,理解听觉注意机制在现实应用中具有重要的意义。脑电信号包含丰富的生理信息,且具有廉价,高时间分辨率等特点,将脑电技术应用于大脑分析已经较为普遍。本文,基于脑电图,研究了听觉追踪注意状态的分类方法,探索了听觉注意时空机制,构建了基于听觉注意的脑机接口。详细研究的内容有以下三个方面:第一、听觉追踪注意状态的分类研究。神经响应和语音刺激之间相关性的强弱跟听觉注意状态的好坏有直接关系。基于此,提出了一种以源空间特征图像为输入的新型卷积神经网络(convolutional neural networks,CNN)模型,对在鸡尾酒会环境中的听觉追踪注意状态进行了分类。首先,基于加权最小范数估计和节律熵,构建了源空间特征图像并将其作为分类特征。然后,搭建了具有3个卷积层的CNN分类模型,该模型的分类精度达到了80.4%。同其它特征输入方法相比,源空间特征图像获得了最优的分类结果,结果具有显著性。第二、听觉注意的时空机制探究。注意力在听觉系统排除干扰,加工特定信息的过程中起着关键的作用,听觉注意时的激活区域及激活时间的探索是一个热点问题。深度神经网络具有从数据中自动学习特征的能力,可视化其学习到的特征有助于理解相应任务的认知信息。因此,通过构建基于听觉注意和非注意状态的深度神经网络分类模型,并通过显著性图可视化学习到的特征,发现,最具辨别力的脑区在颞叶和额叶,具有辨别力的时间段主要在目标语音刺激结束后的250ms内。结果表明,颞叶和额叶区域是听觉注意时的关键激活区域,而250ms是听觉注意的关键时期。第三、“助听”脑机接口系统的设计。基于Windows平台搭建听觉追踪注意状态检测的脑机接口系统。数据采集、数据处理模块通过应用软件集成。刺激模块通过用户数据报协议同数据处理模块交互。系统基于深度迁移学习的思想构建分类模型,即用少量的数据对3层的CNN模型进行微调,用微调后的模型执行分类任务。该模型的分类正确率达到了81.2%,相比于不使用微调的分类,即直接分类方法,提高了6.6%。在线实验时,分类模型实时检测注意状态,并通过刺激模块及时地反馈注意状态。通过反馈,被试的行为反应正确率和反应时间显著改善,表明系统提高了听觉效率,达到了助听的目的。