有理函数Julia集的拓扑是复解析动力系统研究的重要问题之一,多项式Julia集的连通性由于Branner-Hubbard猜想的证明[47]已得到较为完整的刻画.对于有理函数动力系统,二次有理函数的连通性也有较为完整的结论:由Shishikura关于周期稳定域个数的上界估计[50],二次有理函数没有Herman环,进一步,尹永成老师证明,二次有理函数的Julia集或者是连通的,或者是一个Cantor集([60],或者见[40]).Shishikura还证明由多项式的Newton迭代得到有理函数其Julia集总是连通的[51].但一般说来,有理函数Julia集的拓扑要比多项式情形复杂得多,例如,Milnor和TanLei(见[40])首次证明了存在下面形式的二次有理函数fλ,b(z)=κ(z+1/z+b),　　 其Julia集是一条Sierpinski曲线(或称Sierpinski地毯);McMullen[38]研究了单项式zn的有理扰动Fa(z)=zn+a/zd的Julia集,证明当1/n+1/d＜1且|a|充分小时,Fa(z)的Julia集是一个Cantor环,即同胚于Cantor三分集和单位圆周的乘积集.上述Julia集的拓扑结构在多项式情形都是不可能出现的.　　 对于二次有理函数族Fλ,b(z)的动力系统,Goldberg和Keen[33](对|λ|＞1情形)以及尹永成[61](对λ=1情形)已经有了较为深入的研究.　　 最近几年,McMuuen所研究的函数族Fa(z)(现被称为McMuuen族)引起了人们的极大兴趣,Blanchard,Devaneyet.al.,Roesch,Steinmetz等(见[11,12,19-21,23-26,49,53,54])对这个单参数有理函数族Fa(z)的动力系统做了大量的研究,发现其Julia集有丰富的拓扑结构,它可以有Cantor集、Cantor环和Sierpinski曲线等拓扑结构.同时,他们对参数空间中的双曲分支和不稳定集的拓扑也进行了深入研究.　　 McMullen函数族Fa(z)以00和0为其两个临界点,其中∞是超吸引不动点,而0是唯一的极点,他们有非常简单的轨道.除此之外,Fa(z)还有n+d个单临界点,称为自由临界点,它们对称地位于临界圆周{|z|=(|a|d/z)1/(n+d)}上,并且其迭代像或者对称的分布在以原点为圆心的圆周上,或者是重合的,因此,它们的轨道同时趋于无穷远或同时有界,本质上Fa(z)可以看作只有一个自由临界点(或自由临界值).对于　　 自由临界轨道趋于无穷远的情形,Devaney等[25]给出了一个关于Fa(z)的Julia集的拓扑的分类定理.设B是包含∞的Fatou分支,T是包含0的Fatou分支,则有定理1.(Devaneyet.al.)设McMullen函数族Fa(z)的自由临界轨道趋向无穷远,那么　　 (1)如果有一个自由临界值位于B中,则Julia集是一个Cantor集,函数Fa(z)限制在Julia集上共轭于n+d个符号所组成的符号空间上的移位映射.　　 (2)如果有一个自由临界值位于T中,则Julia集是一个由拟圆周组成的Cantor环.　　 (3)如果有一个自由临界值位于T的某个迭代逆像中,则Julia集是一条Sierpinski曲线.　　 已有的文献并没有讨论自由临界轨道有界时,Fa(z)的Julia集的拓扑,也没有讨论Julia集的连通性.　　 本文的第一部分主要研究单峰多项式R(z)=zn+b的有理扰动所得到的双参数有理函数族Fa,b(z)=zn+a/zn+b的Julia集的拓扑.单峰多项式Pb(z)的动力系统是人们十分感兴趣的研究对象,有许多关于此的重要研究工作,例如[5,22,35,36]等,对其有理扰动得到的函数族Fa,b(z)的动力系统的研究也是人们感兴趣的,例如,Blanchard等[13]对n=2且参数6为某些特殊值时Fa,b(z)的动力系统进行了初步研究.我们将Fa.b(z)称为广义McMullen函数族.本文将对Fa,b(z)的Julia集的拓扑性质,特别是其连通性做一个比较完整的刻画.　　 与McMullen函数族类似,对广义McMullen函数族Fa,b(z),无穷远点∞是一个超吸引的不动点,并且是一个n-1阶的临界点;原点0是唯一的极点,并且还是n-1阶的临界点.我们同样记包含无穷远点的Fatou分支为B,包含原点的Fatou分支为T.　　 Fa,b(z)还有2n个单临界点a1/2n,称为自由临界点,它们均位于临界圆周{|z|=|a|1/2n}上.这些单临界点的像有两个,记为v_,v+,称为自由临界值.与McMullen函数族不同的是,这两个自由临界值随着参数a,6的变化其轨道有完全不同的行为.因此,其动力学性质比McMullen族要复杂,研究其Julia集的拓扑要比McMullen族困难许多.　　 为讨论广义McMulien函数族Fa,b(z)的Julia集的连通性,我们首先讨论其Fatou分支中Herman环的存在性.已知二次有理函数没有Herman,环[50],Bamon和Boben-rieth[6]证明有理函数gλ(z)=1+1/λzdωu∈C{0},也没有Herman环.本文证明了　　 定理2.广义McMullen函数族Fa,b(z)的Fatou分支中没有Herman环.　　 进一步,我们按照自由临界值的轨道的行为,分三种情况研究Fa,b(Z)的Julia集的拓扑:1.逃逸情形,即两个自由临界值的轨道均趋于无穷远点;2.半逃逸情形,即一个自由临界值的轨道趋于无穷远点,另一个自由临界值的轨道有界;3.非逃逸情形,即两个自由临界值的轨道均有界.记Fa,b(z)的Julia集为Ja,b,我们得到1.逃逸情形.　　 定理3.假设Fa,b(z)的两个自由临界值的轨道都趋于无穷远点,那么　　 (1)如果B=T,则两个自由临界值都位于B中,此时Fa,b(Z)的Julia集Ja,b是一个Cantor集.　　 (2)如果B≠T,则　　 (2.1)当两个自由临界值位于不同的Fatou分支时,Fa,b(Z)的Julia集Ja,b是连通的.特别地,如果有一个自由临界值位于T中,此时Ja,b是一条Sierpinski曲线.　　 (2.2)当两个自由临界值位于同一个Fatou分支时,Fa,b(Z)的Julia集Ja,b是不连通的,有无穷多个连通分支,每一个Fatou分支或者是单连通的,或者是二连通的.特别地,如果两个自由临界值都位于T中,此时Ja.b是由拟圆构成的Cantor环.　　 2.半逃逸情形.　　 记Ka,b={z∈(-C):Fma,b(z)(→)∞}表示函数Fa,b(z)的填充Julia集,这里,Fna,b(z)表示Fa,b(z)的第n次迭代.Ja,b=δKa,b.Ka,b的包含Fa,b(z)的自由临界点的连通分支称为Ka,b的临界分支.　　 定理4.假设自由临界值v_的轨道趋于无穷,而自由临界值u+的轨道有界,那么　　 (1)如果自由临界值v_不在B中,则Fa,b(z)的Julia集Ja,b是连通的.　　 (2)如果自由临界值v_位于B中,则B=T,Fa,b(Z)的Julia集Ja,b不连通.此时,　　 (2.1)如果填充Julia集Ka,b每个临界分支都是是非周期的,则Ja.b是一个Cantor集.　　 (2.2)如果Ka,b的某个临界分支是周期的,则该临界分支同胚于某个二次多项式的填充Julia集.　　 3.非逃逸情形.定理5.假设Fa,b(z)的两个自由临界值的轨道都是有界的,那么　　 (1)如果每一个Fatou分支至多包含一个自由临界值,则Fa,b(Z)的Julia集Ja,b是连通的.　　 (2)如果有一个Fatou分支D1包含两个自由临界值,则Fa,b(Z)的Julia集Ja,b不连通.此时,Fatou分支D1必定是周期的,并且只有一个逆像D0.　　 (2.1)如果D0的周期是1,那么它是完全不变的.此时Julia集Ja,b=δD0,它由无穷多个互不相交、或不嵌套的拓扑圆周和不可数个单点的并组成.　　 (2.2)如果D0的周期大于1,那么D0的边界由无穷多个互不相交的拓扑圆周和不可数个单点的并组成.　　 我们还给出了一些例子来说明上面定理中的各种情形是可能出现的.　　 本文的第二部分研究了多项式Julia集上的Chebyshev多项式.紧集上的Cheby-shev多项式在逼近论[7]、数值计算[45]、位势理论[3]等方面有重要应用.一般说来,求出给定紧集上的Chebyshev多项式是一件非常困难的事[32].1983年,Barnsleyet.al.[7]得到了二次多项式Tλ(z)=(z-λ)2,λ(C),的Julia集上的2n-阶Chebyshev多项式.本文利用复动力系统的基本理论,我们得到了任意首-d次多项式的Julia集上的dn-阶Chebyshev多项式.　　 设K是复平面-(C)中紧集,称包含K的最小圆的圆心为K的几何中心.定理6.设P是一个度为d≥2的首一多项式,则其Julia集Jp上的dn-阶Chebyshev多项式为Pn(z)-Cp,其中cp为Julia集Jp的几何中心.　　 对给定平面紧集K,研究CK的无界分支上关于∞为奇点的Green函数所得到的等势线上的Chebyshev多项式也是人们感兴趣的问题.一个基本的问题是紧集K上的Chebyshev多项式和K的等势线上的Chebyshev多项式是否总是相等的?对于单位圆周、区间、甚或实轴上两个区间的并等紧集,回答是肯定的(见[4,28,46]).1996年,Stawiska[52]研究了二次多项式Tλ(z)=(z-λ)2的Julia集的等势线上的2n-阶Cheby-shev多项式,证明当λ∈[0,4]时,它和Julia集JT上的2n-阶Chebyshev多项式也是相等的.　　 为此,我们研究了一般多项式的Julia集的等势线上的Chebyshev多项式,我们得到定理7.设P是一个度为d≥2的首一多项式,Jp是其Julia集,ΓP(R)是其势为R＞0的等势线,则ΓP(R)上的dn-阶Chebyshev多项式为Pn(z)-CR,n其中CR,n是势为Rdm＞0的等势线ΓP(Rdn)(=Pn(ΓP(R)))的几何中心.　　 由此我们看出如果CR,n≠cp,则Jmia集Jp和其等势线ΓP(R)上的Chebyshev多项式就不相等.我们给出了两者不相等的例子,同时,我们还给出了两者相等的一个充分条件.　　 最后,作为一个应用,我们利用Julia集上的Chebyshev多项式,对Brolin[17]关于Julia集的容量的估计给出了一个新证明.