脑电（EEG）信号作为识别人体生理状态的最可靠的度量之一,被国内外研究人员广泛应用。深度学习技术为挖掘脑电信号中的信息提供了新的技术手段,但在此过程中面临着结构设计困难和输入信噪比低的问题。本文采用群智能算法和强化学习框架以实现模型结构优化,利用递归网络进行数据输入优化,实现在情绪辨识和疲劳驾驶检测任务上的深度学习模型的动态优化设计。本文首先基于情绪辨识任务的EEG数据研究在卷积神经网络（CNN）上的结构优化框架。通过将CNN结构参数向量化,利用二进制编码统一不同数学表示的相同模型;对粒子群优化算法进行调整,引入梯度惩罚等策略,将梯度粒子群优化算法应用于网络参数模型搜索。分类结果显示,基于梯度粒子群优化算法得到的优化模型在情绪辨识三分类任务上可以实现更高精度的情绪辨识。本文对经典的人工特征进行了分析,结合巧合筛分（CF）思想,提出了一种神经网络功能模块以模拟并增强人工特征。基于该神经网络模块,构建了一种简单的CF-CNN基线模型分析多种不同的EEG信号任务。结果显示,该基线模型在两个不同的数据集上都取得较好的分类性能,且具有运算效率高、训练成本低的优势。随后,引入强化学习方法,对CF-CNN基线模型进行结构优化。结果显示,基于强化学习和CF-CNN基线模型的优化框架能够提升结构优化的效率。为了降低EEG信号低信噪比的影响,采用多重递归网络对原始EEG信号进行输入优化。对每一个通道的脑电信号进行相空间重构,根据相空间的二范数距离构建递归网络,通过多重递归网络连接不同通道的相空间,实现脑区之间的信息整合,导出多重递归网络的互信息矩阵作为CNN的输入。结果显示,基于多重递归网络互信息矩阵输入的卷积神经网络在疲劳驾驶检测数据上实现高精度的辨识。