脑机接口（brain computer interface,BCI）构建了大脑与外部设备直接进行交互的信息通路,能够帮助运动功能障碍患者恢复一定的信息交流和运动能力。本课题主要研究基于稳态视觉诱发电位（steady-state visual evoked potential,SSVEP）的脑机接口,其具有信息传输率高,仅需少量训练等优点,有着广阔的应用前景。虽然基于典型相关分析（canonical correlation analysis,CCA）的方法具有较高的分类准确率,但是背景噪声以及个体差异性等因素仍对系统的稳定性造成较大的影响,并且短时间窗信号的识别准确率也有待进一步提高。本文针对上述问题开展研究,主要成果概述如下:首先设计了基于SSVEP的脑机接口系统,包括视觉刺激装置的硬件实现以及刺激范式的设计,该系统能产生精确的刺激频率,具有实时的信号处理性能。并在此基础上,通过仿真软件搭建了能够通过脑电控制的轮椅机器人导航系统。其次,针对个体差异性对系统造成的不利影响,以及传统CCA方法未能充分利用谐波频段信息等问题,提出了一种基于个体模板信号的多子带频率识别算法（Mset FBCCA）。该算法从训练样本中提取共同特征来构建个体模板信号,从而减少个体差异性影响。此外,测试信号经滤波器组分解成多个子帶分量,独立进行分析后再组合得到特征,高效利用了多个谐波频段中的信息,同时减少谐波频段之间的相互干扰。实验结果表明在大于1.2秒时间窗下Mset FBCCA具有更好的识别性能,其准确率相比CCA提高了13.56±4.25%,比Mset CCA提升了3.30±1.14%。再次,针对Mset CCA易将背景噪声识别为共同特征的问题,结合多层关联最大化（multilayer correlation maximization,MCM）模型对Mset FBCCA进行扩展,提出了MCM-FBCCA算法。该算法选取与刺激频率高度相关的样本进行训练,同时利用典型变量进行多个层级的联合空间滤波,有效提高了模板信号的信噪比,进一步提升SSVEP的识别准确率。实验结果表明,MCM-FBCCA能准确地从训练样本中提取与刺激频率相关的特征来构建模板信号,与本文其它算法相比具有最优的识别性能,且受个体差异性影响最小。在1.2秒的短时间窗下,参数优化后的MCM-FBCCA的准确率为89.0±7.98%,比CCA提高了32.17%,比Mset CCA提高了10.08%。最后,针对脑控轮椅导航系统存在较大不确定性问题,将提出的MCM-FBCCA算法与人工势场（artificial potential field,APF）路径规划方法相结合实现共享控制,并招募5名受试者进行在线交互实验。实验结果显示,系统的在线准确率达到82.99±10.99%,与CCA相比提高了14.11%,系统的稳定性得到显著提升。