边界元方法作为一种新的数值计算方法与区域型数值方法(有限差分法和有限元法)相比具有明显的优势，但是目前边界元方法在油藏工程领域的研究主要集中在均质油藏方面。虽然国外有些学者采用边界元方法研究了非均质油藏的渗流问题，但是关于任意形状油藏和油藏中存在不渗透区域的渗流问题的研究还不多见。为此本文在前人研究的基础上，采用边界元方法对含有不渗透区域的复杂形状非均质油藏的渗流问题进行了研究，主要工作包括： 首先建立了考虑源汇影响的含有不渗透区域的任意形状非均质油藏稳定渗流和不稳定渗流的数学模型，采用正则摄动方法处理该数学模型，将其分解成为一系列Poisson方程(稳定渗流)或者修正的Helmholtz方程(不稳定渗流)。求解了Poisson方程和修正的Helmholtz方程的基本解，研究了边界元方法在求解这两类方程时的应用。给出了改进摄动级数收敛性的帕德逼近方法。 第二、研究了求解非均质油藏稳定渗流的摄动边界元方法。通过与解析解对比，验证了本文方法的有效性和精确性，并分析了非均质油藏稳定渗流时的压力分别特点。通过实例说明当油藏的非均质性很严重时，帕德逼近方法可以有效的改进摄动级数的收敛性和提高摄动级数的收敛速度。绘制了单连域和多近域情况下的流线分布，并分析了均质油藏和非均质油藏的流线特点，为进一步研究剩余油的分布特点奠定了理论基础。 第三、研究了求解非均质油藏不稳定渗流的摄动边界元方法，给出了考虑井筒储存效应和表皮效应时的井底压力计算公式。通过与均质油藏和非均质油藏各种情况下的解析解对比，说明本文的摄动边界元方法在求解井底压力动态方面是正确的并且具有较高的精度。绘制并分析了油藏的非均质性、形状任意性和不渗透区域影响的井底压力典型曲线，通过分析指出油藏的非均质性、形状任意性和不渗透区域的存在对油藏的压力动态存在不同程度的影响，因此通过试井分析并结合地质资料可以有效的判断出油藏非均质性和油藏形状的复杂程度以及油藏内不渗透区域的大小、位置和方向。