混沌理论是研究自然界非线性过程复杂系统内在随机性所具有的特殊规律的一门新兴学科．分形理论与混沌密切相关，混沌是产生时空结构的物质非线性运动，而这种结构本身就是分形．混沌分形理论以新的时空观、新的手段来处理自然界中的复杂性难题，透过扑朔迷离的无序混乱现象和不规则形态，揭示隐匿在复杂系统内部的规律以及局部和整体之间的本质联系．混沌、分形理论的出现是人类科学史上的重大突破，拥有巨大的应用前景． 本论文对混沌分形理论在信息加密及复杂系统动力学模型分析中的应用进行了研究．信息安全是信息学中的一个重要研究领域，信息加密技术则是信息安全的基础．混沌理论的发展为信息加密技术提供了新的思路，混沌是确定性系统，而由其产生的序列是伪随机的，在理想条件下具有无限大的周期，具有类似高斯白噪声的统计特性．同时混沌系统对初始值和参数极端敏感，序列具有不可预测性并可以提供巨大的密钥空间，非常适合于信息加密系统．本文就混沌理论在流密码数据加密、数字图像加密及直接扩频通信三个领域展开讨论，在分析前人已有成果的基础上，分别针对以上三个领域提出了以密钥的Hash扩展和基于Pless生成器的混沌序列非线性变换为核心技术的可公开混沌流密码加密算法、基于Lorenz混沌系统的比特移位图像加密算法和基于Geffe序列生成器的混沌扩频序列生成方案三种改进与创新算法，仿真实验表明以上算法较传统混沌方案在性能上有明显的提高． 复杂系统中的不确定行为动力学模型研究具有重要的意义，是揭示系统时空演化特性，从而建立对系统精确描述模型的基础．本文以多径衰落信道为例，将非线性混沌、分形理论引入复杂系统动力学模型研究，并通过仿真验证了非线性模型较之传统随机模型的优势． 本文的主要工作及创新点有： (1)研究了流密码加密技术中较为常用的基于线性反馈移位寄存器的m序列的伪随机性能并分析了其缺陷．将混沌理论引入到信息加密系统中，并以Logistic映射为例，对混沌信息加密的可行性进行了较为深入的分析．将混沌密序列钥流与m序列加以对比分析，验证其在序列周期、密钥空间及相关性能上的优势．给出了传统混沌流密码加密算法的原理与实现，对其在计算精度受限条件下的密钥空间小、序列呈周期性、易于通过自适应参数混沌同步攻击且算法不宜公开等缺陷进行了分析．在此基础上提出了一种以密钥的Hash扩展和基于Pless生成器的混沌序列非线性变换为核心技术的可公开的混沌流密码加密算法，有效地扩展了密钥空间并增加了序列线性复杂度，增强了抗密钥穷举搜索攻击和基于神经元网络的自适应混沌同步攻击能力． (2)讨论了各种传统的图像加密技术并分析了这些方法存在的缺陷．在此基础上将混沌理论引入图像加密中，较为详细地阐述了目前混沌图像加密中最为常用的“空域复合”加密算法并加以实现，分析了其在加密速度上的不足．针对该缺点提出了一种基于Lorenz混沌系统的比特移位图像加密算法，通过采取合适的预处理与量化机制，形成基于Lorenz方程奇异吸引子的x，y，z三组高质量伪随机序列，通过控制参与移位操作的明文比特数、移位方向与移位位数达到加密图像的目的．通过算法的具体实现比较并验证了其在加密速度、密钥空间及抗密钥穷举攻击性能上的优势． (3)分析了m序列的改进—Gold序列的性能，讨论了其在周期、码数、相关性能上的缺陷．将混沌理论引入扩频通信中，分析了理想条件下混沌二值扩频序列的平衡性与相关性．在此基础上，针对有限精度下通过二值量化得到的混沌扩频序列状态数目较短、呈周期性、相关性能随序列长度增长而下降，并易于通过参数自适应同步控制方法破译的缺陷，提出并实现了一种基于Geffe序列生成器的混沌扩频序列生成方案，较大幅度扩展了扩频序列的周期，增加了序列的线性复杂度，提高了抗破译能力．通过仿真验证了由该生成器产生的混沌扩频序列具有良好的平衡及相关性能． (4)对移动通信多径衰落信道的特性进行了相关分析，给出了幅度衰落的传统模型并分析了其缺陷．在分析多径衰落信号分形特性的基础上将非线性混沌、分形理论引入多径衰落信道的描述．通过相空间重构和关联维数验证了幅度衰落信号的有限维自由度，通过计算其Lyapunov指数考察了系统的时空演化特性，分析出多径衰落信号具有确定性与随机性相互统一的混沌运动特征．利用分形内插机制对多径信号进行了重构．仿真结果表明：与传统的随机模型相比，非线性模型能更有效地揭示多径衰落生成的动力学机制，更准确地描述信号在无线信道中的传播特性．