有限元/边界积分法(FE-BI)综合了有限元适合处理非均匀媒质的复杂几何结构的特点和矩量法处理开域问题的优点,在分析复杂目标电磁散射特性问题上,发挥了很大的作用。近些年来,对三维复杂结构介质体以及三维金属/介质复合结构目标的电磁散射特性的研究越来越受到人们的重视,在这方面也展开了相当多的研究工作。本文基于有限元/边界积分法,结合四面体高阶矢量叠层基函数,对电磁散射问题进行研究,同时分析了三维腔体电磁散射特性,主要工作包括以下几个方面:首先介绍了有限元/边界积分法FE-BI的基本原理,给出了有限元部分、边界积分部分的详细公式以及FE-BI线性方程组系统的具体形式。给出求解这一方程组现行方案的三种公式。同时,讨论了Whitney矢量基函数与三角形RWG基函数之间的关系。其次,在以上的基础上,结合四面体高阶叠层矢量基函数发展了高阶FE-BI、混合阶FE-BI。从数值算例可以看出本文的计算结果与文献中的结果吻合的很好。随后把高阶FE-BI和混合阶FE-BI应用到复杂媒质散射问题,分析了几种典型复杂媒质的雷达散射截面RCS。最后,根据有限元/边界积分法分析求解腔体散射的基本原理,给出了其有限元泛函的具体形式,编写了求解分析三维腔体电磁散射的FE-BI程序。