21世纪将是脑的世纪，脑科学在揭示人脑的奥秘、发展神经计算机和人工智能等方面发挥着越来越显著的作用。利用光学功能成像的方法研究在不同刺激下脑活动的时空模式，对于深入研究脑信息加工的过程和机制以及脑的高级功能具有十分重要的意义。在研究脑的功能构筑时，利用光学成像所采集到的信号称为本征信号（IntrinsicSignals）。从本征信号中检测出由神经细胞激活所导致的映射信号（Mapping Signal）是研究脑功能构筑的一个重要任务。研究表明由神经细胞激活所引起的信号响应幅度通常只占本征信号的0．01％，如此低的信噪比给映射信号的检测带来极大的困难。为此，学者们从多个角度（如空域、时域等）出发，借助现代信号处理手段，提出了一系列检测算法，如比差图像法（Difference Images；DI）、主元成分分析法（PrincipalComponent Algorithm；PCA）、独立成分分析法（Independent Component Analysis；ICA）、指示函数法（Indicator Functions；IF）、广义指示函数法（Generalized Indicator Functions；GIF）、扩展空域解相关法（Extended Spatial Decorrelation；ESD）等。本文在总结前人研究成果的基础上，从如下两个研究思路入手：1)借助现代信号处理技术对已有检测算法进行改进，使它们的性能指标（如检测性能、鲁棒性等）得到提高；2)将其它领域内的研究成果（如盲源分离、模式识别中的聚类、矩阵理论中的迭代特征计算等）与脑光学功能成像领域中的特定问题相结合，提出了一系列新的脑映射模式检测算法，其中空域检测算法包括：子空间ICA（ICA based on Subspace；SBICA）去噪、循环相关的扩展空域解相关技术（Extended Spatial Decorrelation Based-on CycleCorrelation；ESDBCC）和比差扩展空域解相关技术（Difference Extended SpatialDecorrelation；DESD）；时域检测算法包括：时间解相关技术（Temporal DecorrelationSource Separation；FDSEP）和迭代广义指示函数分析技术（Recursive GeneralizedIndicator Functions；RGIF）。与以往的检测算法相比，本文所给出的检测算法具有如下创新点：1)针对ICA应用于脑光学功能成像时存在的一个主要缺陷——各个源之间要独立，本文提出了一种新的SBICA检测方法，该方法首先将观测到的脑模式图分解为多个子空间，然后在各个子空间中使用ICA算法将映射模式与“噪声”模式进行分离而达到检测的目的。SBICA检测方法与ICA检测方法相比，具有适应范围更广、能在极低信噪比下有效去噪等优点；2)从ESD算法所采用的相关运算方式和实验数据结构入手，本文分别提出了改进的ESDBCC和DESD算法。其中ESDBCC使用一维循环相关运算代替原ESD算法的二维平移相关运算，仿真结果表明ESDBCC算法不仅计算量小，而且在无噪和有噪环境下对参数选择的鲁棒性更好；DESD算法利用正交刺激实验的特点，分别对两个正交实验条件下的数据进行独立分析，然后再将各自分离出来的映射模式进行比差来获取最终的映射模式，这种处理方式避免了ESD算法直接将两个实验条件下的数据进行比差所带来的信息损失；3)针对大多数空域检测方法的模型约束条件较苛刻的缺点，从时域角度出发，通过设计一种像素时间序列选择策略，成功地将盲信号处理中的。TDSEP方法引入到脑光学功能成像领域，用以解决低信噪下的映射模式检测问题。理论和仿真都表明TDSEP算法所要求的像素点时间序列中各过程间的不相关性要比空域检测算法中要求的空间模式间的独立性更加符合实际情况；4)GIF检测算法由于存在计算量大、不能在线观测的不足，本文将求解矩阵特征问题的迭代算法与GIF算法相结合，提出了改进的RGIF算法，利用仿真和实验数据验证了该算法在保证检测性能的同时，有效的减小了计算量。