多模光纤(MMF)凭借其纤芯大、易于耦合等优点，在高速局域网中得到广泛应用。然而，模式色散导致符号在传输过程中产生畸变，严重限制多模光纤的信道容量。在多模光纤中传输的模式数足够丰富且各模式之间相互独立的条件下，光纤信道可看作多径信道。多输入多输出(MIMO)技术能够利用空间分集提高多径信道的抗衰落性能，因此，光纤MIMO具有改善符号衰减的优点。　　 垂直分层空时编码(V-BLAST)是一种结合空间复用和空间分集的MIMO分层结构。本文在光纤MIMO系统的发送端引入V-BLAST，提高光纤通信系统容量、增强系统可靠性。　　 本文工作主要包括三个部分：　　 1)在MATLAB仿真软件中构建光纤MIMO系统仿真平台，对系统中的发射机、光纤信道及接收机等模块进行理论分析；并通过对光纤MIMO信道容量的理论研究，仿真验证了MIMO技术能够有效提高光纤信道容量，且信道容量随着发射机和接收机数目的增加呈线性增长趋势；　　 2)设计一种非相干的V-BLAST光纤MIMO系统，并构建系统的仿真平台。针对V-BLAST光纤MIMO系统结构，分别对最大似然(ML)检测算法、迫零(ZF)检测算法、最小均方误差(MMSE)检测算法和Golden检测算法进行理论分析，在相同的仿真环境下对比以上算法的误码率性能。由仿真结果可看出：ML检测算法的性能最佳；Golden检测算法因为采用了干扰消除的思想，所以性能较好；MMSE检测算法次之；ZF检测算法最差，但当系统信噪比较大时，MMSE检测算法和ZF检测算法性有接近的趋势；　　 3)本文给出以最小总错误概率准则为排序标准的检测算法，将该算法应用于V-BLAST编码的光纤MIMO系统中。由于该检测算法结合了最小总错误概率准则和Golden检测算法的排序思想，因此可以减小译码误差的累积。通过仿真比较基于最小总错误概率准则排序的检测算法与Golden检测算法的误码率，证明基于最小总错误概率准则排序的检测算法能够有效降低系统误码率，增强系统的可靠性，改善系统性能。