尽管脑-机接口技术在近几十年得到飞速发展,但由于脑电信号的抗噪声能力差、复杂度高,开发实用化系统仍然面临着巨大的挑战。稳态视觉诱发电位(Steady State Visual Evoked Potential,SSVEP)因具有高识别率和信息传输率等特性得到广泛的应用。由于硬件技术以及生理机制的限制,能够引起SSVEP响应的刺激频率屈指可数。为此,本文通过频移键控(Frequency Shift Keying,FSK)编码,同时增加指令间隔生成TFSK(Trinary Frequency-Shift Keying Encoded)编码的方式来增加刺激指令数量。在FSK-SSVEP系统中,存在的主要问题包括采集有用数据比较困难而且解调的难度系数大。针对这些问题,本文具体研究内容如下:首先,分析SSVEP调制解调方式以及设计离线数据采集实验。(1)研究频率调制与FSK调制方式的特性,选择FSK方式对多个频率调制解决SSVEP中刺激指令受限的问题。(2)分析TFSK调制与通信领域FSK调制的差异,并结合脑电信号的特性和调制信号中的变量(包括编码频率、码元刺激时间、码元序列长度等)来设计实验范式。通过实验完成对10名受视者的离线数据采集;然后,研究FSK-SSVEP信号解调的算法。比较分析了傅里叶变换、小波变换以及经验模态分解算法的特性,并根据脑电信号(Electroencephalogram,EEG)非线性、非平稳、噪声大等特点,设计了经验模态分解算法对信号进行分解与筛选完成信号预处理,从而提高信噪比。总结了通信领域中FSK的解调算法,仿真研究了相干解调算法、非相干解调算法和典型相关分析算法的原理,并使用TFSKSSVEP脑电数据分析了相差和码元起点判定对解调算法以及解调结果的影响。通过解调结果分析表明结合经验模态分解与非相干解调算法的解调效果最佳,其平均准确率高达93.35%;最后,在Android系统上实现了经验模态分解与非相干解调算法,并设计了基于Android系统的拨号软件完成对脑电信号的实时传输与处理,对算法进行了在线测试。通过拨号软件成功拨号的结果表明经验模态分解与非相干解调算法在TFSKSSVEP BCI系统中具有可行性。