随着信息时代的到来,信息的高速、高效和安全传输与交换成为通信领域的核心问题。光纤通信以其传输频带宽、信道衰减小和抗干扰性强等突出优点,而成为高速有线通信的理想载体。然而,目前处在物理层的光纤信道,无论是采用时分复用,还是波分复用,均不具有对传输信息的安全保密功能,因此,很容易被窃密。半导体激光器通过微扰,能产生带宽达几GHz到十几GHz的高维混沌激光,可将速率达数Gb/s的信息隐藏于混沌激光载波中,从而实现信息的保密安全通信。由于光纤通信网络已经得到普遍应用,所以,如何将混沌激光保密通信与现有光纤通信兼容、通过复用和补偿等技术,既能实现信息保密安全传输,又能提高光纤信道的频谱效率、降低通信成本,成为混沌激光保密通信当前迫切需要解决的关键科学和技术问题,具有广阔的应用前景。本论文在充分调研国内外研究现状的基础上,选择常规光纤通信信道承载混沌激光保密通信中的波分复用和混沌光分复用、色散补偿等关键问题,进行了系统深入的理论和实验研究。具体完成如下创新性的工作：(1)混沌光信号在光纤信道中传输会受到光纤的色散和非线性效应等因素的影响,从而降低混沌同步和通信的质量。为此,提出了单信道混沌激光保密通信的对称色散补偿方案,比较了不同传输速率时色散补偿前后接收机恢复信息的质量差异,分析了色散补偿周期对系统性能的影响。仿真论证了混沌光载波经色散位移光纤传输后信号的变化情况,表明采用对称色散补偿技术后,接收机恢复出信息的质量有明显提高。(2)提出了常规光纤通信信道与混沌光信道波分复用的优化方案,通过混沌键控加载信息以提高传输速率、采用对称色散补偿减小光纤色散的影响和合理调节入纤光功率以减小光纤非线性效应的影响。仿真实现了在0.8nm的信道间隔下,混沌光信道中2.5Gb/s数字信息的保密传输,常规光纤通信信道中传输10Gb/s的数字信息,复用传输距离可达500km。(3)提出了混沌激光通信信道波分复用的传输方案,分析了光纤色散系数、非线性系数、信道间隔、信息速率和信息幅度对混沌光同步和复用通信的影响。仿真结果表明,随着光纤链路长度的增加,混沌同步性能下降,接收机恢复出信息的Q因子减小；但信道间隔对混沌同步和Q因子影响不显著；该系统同时实现了1Gb/s、1.25Gb/s和2.5Gb/s三路信息的波分复用混沌激光通信。(4)提出了一种混沌光分复用的实现方案,解决了同一波长传输一路混沌光信号使得光纤信道的利用率仍然不高的问题,定义了同步条件和正交条件来定量衡量混沌光分复用的性能。仿真分析了混沌激光发射机输出光功率的时序图、功率谱、自相关函数和互相关函数,及混沌光发射机激光器的内部、外部参数失配和自发辐射噪声对同步性能和正交性能的影响。结果表明,在满足同步条件和正交条件下,激光器的参数可以连续取值,说明混沌光分复用的正交空间很大。(5)研制了1.25Gb/s速率的混沌激光发射机和接收机,建立混沌激光通信系统并进行了实验。首先,用光纤环反馈方式,产生了易于和现有光纤信道耦合的混沌激光载波,实现了开环下混沌激光同步和承载1.25Gb/s信息的背对背保密通信；其次,采用设计的实验系统,实现了混沌激光承载1.25Gb/s信息在光纤中100km距离的传输；另外,实验实现了在无色散补偿的条件下,信道间隔为3nm时混沌光信道和常规光纤通信信道都承载1.25Gb/s速率信息的波分复用,传输距离达100km。最后,实验实现了两路均承载1.25Gb/s速率信息的混沌激光信道的波分复用,传输距离达25km。