光纤光栅技术是光纤技术中继掺铒光纤放大器(EDFA)技术之后的又一重大技术突破,这种光纤元件对光纤通信、光纤激光器和光纤传感器都是不可多得的理想器件。调制不稳定性是普遍存在于非线性系统中的一种现象,它会导致在非线性系统中传播的连续(CW)或准连续波发生破裂进而演化成不连续的光丝或脉冲序列。另外,产生调制不稳定性的参数区间往往同实验观察到的亮孤子的参数区间相吻合,而且调制不稳定性过程中产生的光丝或脉冲序列也会演化成相应的孤子阵列,因此调制不稳定性总是被人们认为是孤子产生的前兆。在光纤光栅中,这种不稳定性表现为将连续或准连续波分裂成一系列的超短脉冲。本文利用非线性耦合模的方法研究了非线性管理光纤光栅中的调制不稳定性,分析了调制波在光栅中所满足的色散关系,取得的主要成果如下:第一,耦合模方程组是描述光脉冲在光纤光栅中传输的最精确的方法。我们利用最近提出的新的非线性管理光纤光栅的模型,由加入了非线性变化作用后的非线性耦合模方程出发,推导得到非线性管理光纤光栅中的调制不稳定性的色散关系式。第二,根据得出的色散关系式,将非线性管理光纤光栅的增益谱特性与常规光栅进行了比较。发现在反常色散区Kerr非线性效应变化改变了调制不稳定性产生的区域,原来关于零波数对称的两个旁瓣随着Kerr非线性变化的增加其增益幅度和谱宽都有所改变,并在经历了一段无增益区域之后,又逐渐形成了在零波数段区域的一个单峰。而在正常色散区,由于Kerr非线性变化的影响,除了原来的两个增益区域之外,零波数段出现了新的增益区,增益的幅度随着Kerr非线性变化的增加而递增。第三,根据增益谱的比较,我们从色散关系式中看到了产生这种变化的原因。正是由于存在f奇次项的影响而导致了这种在正常色散区和反常色散区变化趋势的不同。此外,由于出现了新的关于ω、q的一次项,因此在高功率情形下,调制不稳定性增益谱呈现明显的不对称性。