有限元法(FEM)是计算电磁学的主流方法之一,它对于复杂边界结构和非均匀介质问题具有很强的处理能力。边界元法(BEM)是在有限元法和经典的边界积分法(BIE)基础上发展起来的一种有效的数值计算方法,它将区域积分转化为边界积分,使求解的问题下降一维,同时边界元法特别适用于分析无限大的开放区域。本文对有限元法和边界元法及其混合算法在电磁散射问题中的应用进行了研究,主要工作包括以下几个方面:1.将边界元法应用于研究波导不连续性问题。应用单连域边界元法分析平板介质波导不连续性,应用多连域边界元法分析矩形波导中加载多介质柱不连续性的散射特性。该方法与其它计算同类问题的方法相比,能节省存储单元。2.提出了一种求解电磁场有限元-边界元混合法所生成的线性方程组的有效方法-内观法结合多波前法。由于该线性方程组的系数是一个部分稀疏部分满填充的矩阵,为了加速求解,应用内观法将系数矩阵分为两块,一块是有限元法形成的稀疏矩阵,另一块是边界元法形成的满阵,然后用多波前法求解稀疏矩阵方程,用高斯-约当消去法解满阵方程。采用该方法,分别计算了二维多层介质柱体、导体柱和介质覆盖导体柱的雷达散射截面。计算结果表明,该方法的计算效率远远高于传统的高斯法。3.应用有限元—边界元混合法计算了二维各向异性不均匀介质柱电磁散射,对介质柱内、外区域分别采用有限元和边界元法进行分析,然后应用边界条件建立部分稀疏部分满填充的矩阵方程。分别计算了不均匀分布的各向异性介质柱和各向异性介质覆盖导体柱的雷达散射截面。数值计算表明,有限元-边界元混合法在分析和计算不均匀开放域电磁问题时有一定的优势。4.研究了区域分解法(DDM)与有限元法相结合的混合算法-DDM/FEM方法。讨论了重叠型DDM、非重叠型DDM及其在FEM中的应用。采用这种混合方法分析了波导问题,将原求解区域分解为若干个非重叠的子域。从实际场分布出发,在划分区域的虚拟边界上给出了连接子域的虚拟吸收边界条件,以保证相邻子域间波的传播,构建了一种能够用于分析波导问题的区域分解法。采用这种技术,大大地减少了对计算机内存的需求。5.研究了DDM与FEM、BEM相结合的混合算法-DDM/FEM/BEM方法,并应用该方法分析了二维各向异性介质柱的散射特性和填充多层各向异性介质的二维开口腔体散射特性。为了保证各子域间的场耦合,提出了一种新的适用于分析各向异性介质的传输条件。6.将矢量有限元法与边界积分方程法相结合,分析了在任意激励源作用下无限大导电平面上三维开口腔体的散射。对单元的离散采用自动剖分技术,分别计算了电偶极子和小电流环在腔体上方不同高度时,腔体开口处的等效磁流。