在惯性约束聚变工程中,流体瑞利—泰勒不稳定性是燃料靶丸维持稳定烧蚀压缩与实现高能量增益的关键因素,数值模拟结果表明,烧蚀情况下的界面附近物理量是具有一定宽度的连续分布,尤其对于最具破坏的短波长扰动,其增长率将远小于经典间断界面模型的值。为理解这些计算的结果,需要从解析的角度更细致地讨论密度分布对增长率及扰动分布的影响。本文从描述流体力学不稳定性的守恒型方程线性化出发,在整理现有结论及方法的基础上,主要采用变分原理及数值计算两种方法从密度分布及压缩效应的角度对界面物理量连续分布下的流体线性瑞利—泰勒不稳定性做出了一些工作,加深了相关问题的理解。首先,总结了间断连接条件及速度势小扰动展开方法所得到的有关结论,给出了包含瑞利—泰勒和开尔文—亥姆霍兹不稳定性的三阶扰动方程,求出了势流理论下界面线性演化的精确解,推广并改进了质量烧蚀理论。其次,本文考察了不可压流体不稳定性的情况,包括瑞利—泰勒不稳定性的密度梯度致稳及开尔文—亥姆霍兹不稳定性的密度梯度致不稳。推导了关于法向扰动速度的一般不稳定性本征方程,采用变分法求得连续分布下方程的近似增长率或色散关系,所得近似解和原有结论及数值模拟结果的作了比较。对于密度梯度致稳问题,在变分基础上采用了有限元方法数值计算增长率,得到频谱范围广泛的增长率曲线,发现原有拟合公式的适用范围,指出了扰动分布区域与密度梯度标长取值位置及初始扰动分布的关系,对靶设计提出了参考性建议。对于一般的不稳定性本征方程编写了中心有限差分的数值程序,检验解析结果。第三,本文考察了压缩性对于瑞利—泰勒不稳定性的影响,建立了适合讨论可压流动三种相关因素的理论模型。变分法所得近似色散关系在一定条件下包含间断连接条件的结果,又含有新的结论。在排除密度分布变化对于增长率影响的基础上,着重分析了标志压缩性的两个因素分别对于增长率的影响,肯定压缩性对于固定密度分布的流体扰动是致不稳的。采用数值程序求解可压缩瑞利—泰勒不稳定性的本征值问题,与色散关系解析公式所得增长率作了比较。