动力系统是非线性科学的重要组成部分,它研究自然现象随时间演变的极限行为.经过Poiricare, Lyapunov, Birkhoff等人的奠基和发展,动力系统已成为现代数学的重要分支之一.混沌(chaos)是非线性动力系统普遍存在的一种运动形式,是现代非线性科学研究的中心问题之一.同时,混沌研究对非线性动力学的发展起着全局性、本质性的影响.但是,究竟什么是混沌,不同的领域对混沌的理解很不相同,直到现在还没有一个统一的定义.一般而言,混沌是指发生在确定性系统中,不需要附加任何随机因素亦可出现的类似随机的动力学行为(内在随机性).数学上常用的混沌定义,对于离散动力系统有Li-Yorke混沌[54]、Dcvaney混沌[25]和Wiggins混沌[107]；对于连续动力系统有Smalc马蹄意义下混沌[96].对初始条件的敏感依赖性被认为是混沌最重要的本质特征.因此,研究系统具有敏感依赖性吸引了众多学者的关注[1,8,35,38,40,52,53,109].1992年,Banks等人证明了Dcvaney混沌定义中的条件“周期点稠密”和“拓扑传递”蕴含“对初始条件敏感依赖”[8].1993年,Glasner和Weiss得到了更强的结论：传递非极小的几乎周期点稠的系统是敏感依赖的[35].2002年,Abraham等人从遍历论角度对敏感依赖性进行了研究,证明了度量概率空间上具有满支集的保测变换T如果满足强混合或拓扑混合、弱混合和其它条件,那么T是敏感依赖的.2010年,黎日松和史玉明在文[52]中减弱了Abraham等人的条件,给出了拓扑强遍历的定义,并证明了若度量概率空间上的具有满支集的保测变换T是拓扑强遍历的,则T是敏感依赖的.其它与敏感依赖性有关的结果,可参见[40,109,113].系统对初始条件敏感依赖强度的大小可以用敏感依赖时间集的大小来度量.基于此,2007年,Moothathu给出了自治离散系统敏感依赖的三种强形式：syndetic敏感依赖、有限余敏感依赖和多敏感依赖[69],并得到了系统是强敏感依赖的一些充分条件和不是强敏感依赖的反例.最近,黎日松和史玉明给出了另一种强敏感依赖—遍历敏感依赖[53],并研究了保测变换和半流是四种强敏感依赖的充分条件.判定一个系统是否混沌或是哪一种混沌是比较困难的研究课题.在自治离散系统混沌判定方面,目前已取得了丰硕的成果.1975年,李天岩和Yorke研究了连续区间映射并得到了一个著名的结果：“周期3蕴含混沌”[54],同时他们首次对混沌给出了一个描述性的定义.1978年,Marotto受李天岩和Yorkc工作的启发,把Li-Yorke定理的结果推广到了n—维欧氏空间,引入了扩张不动点和返回扩张不动点的概念,并证明了返回扩张不动点导致Li-Yorke意义下混沌[65,定理3.1].2004年,史玉明和陈关荣抓住了扩张不动点和返回扩张不动点的本质,将有限维空间中对连续可微映射定义的返回扩张不动点的概念推广到了一般度量空间中[841,进而建立了完备度量空间上离散动力系统的若干混沌判定定理[84,85,91].其它混沌判定方法可参见[55-59,61].耦合扩张理论是判定自治离散动力系统混沌的有力方法之一.1992年,Block和Coppcl在研究连续区间映射时引入了turbulent map的概念[11],并证明了如果连续区间映射,严格turbulence,那么f在一个紧子集上拓扑半共轭于单边符号动力系统,从而.f在Dcvaney和Li-Yorkc意义下混沌[10,11].2006年,史玉明和陈关荣把turbulence的概念推广到一般度量空间[87].为避免与流体力学常用词汇湍流(turbulence)相混淆,他们将之更名为耦合扩张映射.之后,史玉明与她的合作者建立了一系列的由映射的耦合扩张性导致混沌的判定定理.理论与实践总是相伴而生、相辅相成的,混沌理论来源于实践,又应回到实践中去,应用于实践.对于混沌控制的研究吸引了许多学者的兴趣.混沌控制包含两个相反的方面：混沌的控制和混沌的反控制(也称为混沌化).使一个混沌的系统变得不混沌或稳定的过程称为混沌的控制.使一个不混沌的系统变得混沌或使混沌系统呈现更强的混沌或不同类型的混沌的过程称为混沌化或混沌的反控制.在过去十多年问,人们认为混沌是有害的,对自治离散系统混沌的控制的研究得到了快速发展.关于混沌的控制更多的研究参见[18,45,49].然而,由于混沌在许多领域也是非常有用的,例如人的大脑、机器人制造、心脏跳动的规则、数字通讯、密码学、流体力学等等[15,26,31,82,97],因此混沌的反控制也得到了许多学者的研究与关注.1996年,陈关荣和赖德健首先提出了反馈控制方法[16,17,19],并证明了当原系统是线性系统时,具有模运算的受控系统在Dcvaney意义下混沌；当原系统是非线性系统时,受控系统在Wiggins意义下混沌.在文献[102,103,116,126]中,汪小帆等人运用Marroto定理证明了受控系统在Li-Yorkc意义下混沌.最近,史玉明、陈关荣和郁培把这些方法推广到了无穷维离散动力系统[20,86,92],并且给出了Banach空间中离散动力系统的一些混沌化格式,他们证明了受控系统在Dcvancy和Li-Yorkc意义下混沌.混沌理论与方法已被广泛应用于振动、自动控制、系统工程等领域中,并对一些社会科学的研究和发展都产生了深远的影响.1838年,Cournot首先建立了一般策略博弈的两寡头竞争的基本理论.后来又出现了许多改进的Cournot模型[105].最近,具有有限理性的两寡头竞争博弈得到了广泛的研究[2-4,32,75,114,117].1991年,Puu首先在两寡头竞争的Cournot模型中发现了包括分数维的吸引子的各种复杂的动力学行为[75].2001年,Agiza等人研究了多个竞争者的寡头竞争模型,推广了Puu的模型[2].2003年,Yasscn等人研究的Cournot模型中每个厂商运用不同的生产方法和用时滞有限理性选择他们的产量[112].分别在2003年的文献[3]和2010年的文献[117]中,作者研究了两个不同竞争者的Cournot模型,其中一个具有有限理性,而另一个是幼稚的,并应用数值方法计算了最大Lyapunov指数和混沌吸引子的分数维.2004年,易余胤等人研究了具有不同行为规则的演化Cournot模型,并且得出近视眼的行为规则不会被Nash行为规则所淘汰[114].遍历理论起源于Hamilton动力系统的统计性质的分析,它研究系统长期平均行为的定性性质,在数学物理、概率论和数论等许多数学分支都有重要和深刻的应用[12-14,33,101].对于拓扑动力系统,在相当大的一类群作用下,它具有一个相应于Borclσ—代数的不变测度.于是,遍历理论就成为了一个研究拓扑动力系统的基本工具[113].遍历定理是遍历理论的基本研究主题之一.遍历理论中的第一个重要结113论是在1931年由Birkhoff得到的逐点遍历定理,其次是在1932年由von Neumann得到的平均遍历定理.继Birkhoff和von Neumann的开创性工作之后,许多数学家对逐点及平均遍历定理作了种种推广[29,64,70,74,77,1.01].1987年,Elton研究了紧致度量空间中有限个压缩映射组成的迭代函数系统(Iterated Function Systems)的遍历定理[29].2001年,马东魁和周作领对Elton的工作进行了改进,得到了有限迭代函数系统的几个新的遍历定理[64].2005年,吴亨哲等人研究了紧致度量空间中无穷个压缩映射组成的迭代函数系统的遍历定理[70].时变(非自治)离散系统存在于许多现实问题中,经济和生物中的很多问题都可以用时变系统的特殊情形一周期离散系统来刻划[6,23,24,28,41,81].但受科学自身发展的限制和为了研究问题的方便,往往将时变系统近似为自治系统进行研究.由于时变离散系统是由若干个映射复合而成的,而自治系统只涉及到一个映射的复合,所以时变系统的动力学行为比自治系统要复杂得多,研究也困难得多.目前关于时变离散系统的研究成果较少[6,30,47,88,94,95,99,115,119].1996年,Kolyada和Snoha研究了时变系统的拓扑熵[47].2003年,Franke和Sclgradc讨论了时变离散系统的特殊情形—周期离散系统的吸引子问题[30].2006年,AlSharawi等人把Sharkovskii定理推广到了周期离散系统中[6].在时变离散系统的混沌判定方面,近几年取得了一些进展.2006年,田传俊和陈关荣研究了在同一度量空间(X,d)上的映射族在迭代方式和逐次方式下的动力学行为[99],推广了自治离散系统Dcvancy意义下的混沌概念.2009年,史玉明和陈关荣将自治离散系统混沌的概念推广到时变离散系统,建立了有限维线性时变系统在Li-Yorke意义下混沌的判定定理和一般时变系统在强Li-Yorke意义下混沌的判定定理[88].最近,史玉明引入了时变离散系统一种新的子系统的概念,并讨论了时变系统及其子系统混沌动力学性质之间的关系[94].在[95]中,史玉明与她的合作者进一步深入研究了周期离散系统的混沌问题,得到了周期系统在Dcvancy和强Li-Yorkc意义下混沌的判定定理和不混沌的充分条件.据我们所知,关于时变离散系统还有大量问题没有被研究,有些问题研究结果不多或结果不深刻,如敏感依赖性、混沌化和遍历理论中的问题等.本文将针对时变离散系统及其特殊情形—周期离散系统的敏感依赖性进行研究,比较系统地讨论了周期离散系统的遍历定理.本文还考虑了有限维和Banach空问中时变系统的混沌化问题,通过反馈控制方法,利用耦合扩张理论和返回扩张不动点理论建立了时变系统的几个混沌化格式.另外,到目前为止,关于Cournot模型复杂动力学行为的结果都是通过计算机仿真得到的,缺少严格的理论证明.本文建立了一个新的Cournot模型并运用返回扩张不动点理论严格证明了该模型在Dcvancy和Li-Yorke意义下混沌.本文主要研究了混沌的重要特征—敏感依赖性、混沌化和混沌在博弈论中的应用三个方面的问题.本文由四章组成,主要内容如下：第一章概述了动力系统混沌理论及其应用的研究进展,给出了一些预备知识,其中包括几个常用的混沌定义,以及动力系统中的一些基本概念,并回顾了符号动力系统的一些基本概念和性质以及测度空间和保测映射的概念.第二章主要讨论时变离散系统的敏感依赖性及其特殊情形—周期离散系统的遍历定理.本章首先研究了时变离散系统的敏感依赖性,给出了一般时变系统敏感依赖的两个充分条件.引入了时变系统敏感依赖的四种强形式：有限余敏感依赖、多敏感依赖、syndetic敏感依赖和遍历敏感依赖,并给出了时变系统是有限余敏感依赖的两个充分条件.然后讨论了周期离散系统的敏感依赖性,给出了保测周期系统敏感依赖的一个充分条件,证明了若具有满支集的保测周期系统拓扑强遍历,则该系统是敏感依赖的.本章还研究了周期系统与其诱导的自治系统的四种强敏感依赖之间的关系.证明了当周期系统诱导的自治系统具有四种强敏感依赖特性之一时,周期系统亦然.反过来,当周期系统满足一致连续条件时,周期系统具有四种强敏感依赖性之一,则其诱导的自治系统亦然.最后推广了Hilbcrt空间上的平均遍历定理,并把自治系统von Neumann意义下的平均遍历定理和Birkhoff逐点遍历定理推广到了周期系统.第三章主要讨论时变离散动力系统的混沌化问题.本章考虑有限维空间和一般Banach空间以及特殊Banach空间中时变离散系统的混沌化问题.利用反馈控制方法建立了若干个混沌化格式.并且对每个混沌化格式,给出了控制参数的范围.为便于在实际中进行操作,设计的控制器是自治的,包括一般控制器和锯齿函数,且一般控制器具有严格A—耦合扩张特性或具有返回扩张不动点.在某些情形下,只要求时变系统的映射序列满足一致Lipschitz条件.利用史玉明和陈关荣[88]建立的具有严格耦合扩张的时变系统在强Li-Yorke意义下混沌的判定定理证明了受控系统在强Li-Yorke意义下混沌.最后给出了一个二维映射的例子及其计算机仿真图.第四章研究混沌理论在博弈论中的一个应用—具有近视眼行为规则的Cournot模型的混沌分析.首先建立了具有近视眼行为的一个新的非线性Cournot模型,然后研究了该模型的均衡点的局部稳定性,并分析了该模型的动力学行为.运用返回扩张不动点理论证明了当模型中的参数(产量调整系数)在一定范围内取值时,该模型在Dcvaney和Li-Yorke意义下混沌.特别地,当产量调整系数取不同值时,通过计算机仿真得到该模型具有三种不同的混沌吸引子.