光子晶体光纤(photonic crystal fiber，简称PCF)是一种沿光纤端面存在周期性介电结构排列的特殊光纤。与普通光纤相比，它表现出许多优异的特性，如无限单模传输、色散和模场面积高度可控、高双折射、高非线性等等。这些特性使PCF在脉冲压缩、短波孤子传输、超宽连续谱发生以及非线性光学等方面具有广泛的应用前景。本论文着重进行了光子晶体光纤非线性光学特性的理论和实验研究，主要内容如下：1．介绍了光子晶体光纤的概念，分析了其性能特点和应用领域。2．理论研究了激光脉冲在熔石英光纤中传输的物理过程，给出了能够改变激光脉冲强度的线性和非线性因素；从麦克斯韦方程出发，推导了光子晶体光纤中皮秒和飞秒光脉冲传输的非线性薛定谔方程(NLSE)；着重探讨了多个光波在光子晶体光纤中相互作用所引起的非线性效应——四波混频。3．研究了求解NLSE的主要方法，用分步傅立叶法求解NLSE，数值模拟了超短脉冲在光子晶体光纤不同色散区的传输过程，探讨了不同初始功率、中心波长的脉冲在PCF中产生的超连续谱(SC)特性和非线性机理。4．用光子晶体光纤进行超连续谱的实验研究，观察到了红光、黄光、绿光等新的频谱成分，并探讨了超连续谱产生的条件和机理，分析得出其机理可能是自相位调制、交叉相位调制、受激拉曼散射，四波混频和群速度色散共同作用的结果。