随着当前互联网电话、视频点播等网络服务带来的网络数据量的急剧上升,光通信系统向40Gbit/s、100Gbit/s甚至Tbit/s的传输速率演进已经成为必然趋势,如何有效的利用当前已经铺设的光纤链路和已有的设备,对光纤通信链路的发送端和接收端进行优化和升级,克服光纤色散和非线性效应对高速光信号的影响,提高系统的传输质量就成为当前光纤通信研究应用领域内的热点问题。本文从时域透镜的基本原理入手,对利用时域透镜在高速非线性光纤通信链路中进行色散补偿、实现全光正交频分复用调制和进行光域小波滤波等优化方式通过数值仿真进行了分析和研究。通过与现有的光纤通信链路传输质量的比较,说明了时域透镜在对光纤通信链路进行优化,以及利用其对现有光纤通信系统进行升级的优势,主要研究内容如下：简要介绍了影响长距离光纤通信链路的色散、非线性效应及非线性噪声的性质；推导了使用沃特拉级数传递函数模型求解非线性薛定谔方程研究光信号变化时,所用沃特拉级数的阶数与输入信号的峰值光功率及光纤链路物理参数之间的关系,说明了光纤的色散与非线性效应的相互作用对信号的影响。介绍了时域透镜系统的基本结构,说明了时域透镜系统进行傅立叶变换或对信号进行展宽或压缩的基本性质,讨论了增大时域透镜输出信号频谱范围的方法及其对信号在传输过程中的影响。基于时域透镜可以进行全光傅立叶变换的性质,在光正交频分复用系统中利用时域透镜系统代替传统的用于计算快速傅立叶变换及数模模数转换的数字信号处理芯片对信号进行正交频分复用调制,克服电子器件计算速度的瓶颈对光通信系统传输速度的限制；并比较了两种系统中正交频分复用信号的频谱,以及在现有的色散补偿光纤链路中两种系统中传输高速光信号时接收信号的星座图及输入功率与误码率的关系曲线,说明了基于时域透镜的光正交频分复用系统的具有较好的通信质量。提出了两种基于时域透镜的色散补偿系统,4f时域透镜分立色散补偿和集总色散补偿两种方式。并分析了两种系统中,信号帧长度与信号保护间隔长度与色散补偿效果之间的关系；分别在采用强度调制、100Gbit/s的16-QAM及4-QAM的相干调制解调光通信系统中讨论了不同的时域透镜色散补偿方式下,光纤的色散及非线性效应对信号的影响,并在综合考虑光纤的色散,非线性效应及多跨距链路中掺铒光纤放大器的自发辐射噪声的情况下,给出了输入功率与误码率的关系曲线,并且对使用两种基于时域透镜的色散补偿方式和传统的DCF色散补偿系统进行了比较,进一步说明了4f时域透镜的集总色散补偿方式优于分立色散补偿方式和传统DCF色散补偿系统,更适用于高速大容量的光纤通信系统中。将小波去噪引入到光纤通信链路的接收端用以降低由光纤的非线性效应和EDFA的ASE噪声相互作用所产生的非线性噪声对强度调制直接检测光纤通信系统通信质量的影响,通过数值仿真说明了光域小波去噪可以有效的提高系统的信噪比改接收端信号质量,并且dmey小波的去噪效果最优。针对级联MZM实现光域小波分解的缺点,设计了基于时域透镜和马赫曾德尔干涉仪的对光通信系统中的传输信号进行全光小波分解的滤波器结构,为在光域内实现小波分解利用小波变换的优点改善系统的通信质量提供了一种新的方法。上述研究的结果表明了时域透镜在高速非线性光纤通信链路优化中的可行性和有效性,而且时域透镜对光纤通信链路的优化都在系统的发送或接收端,利于实际光纤通信系统的升级改造和节约成本。时域透镜系统在光纤通信系统中的使用可以提高系统克服色散及非线效应的能力,在保证光纤通信系统传输质量的同时提高光纤通信系统的容量,以适应高速发展的互联网数据业务对光纤主干网传输性能的要求。