当前,关于非线性科学的研究发展迅猛.随着计算机技术的发展、新的数学分析工具和方法的有效使用,使得非线性科学取得了一系列重要的成效和突破性的进展.而人工神经网络及样条函数是求解非线性问题的强有力工具,常用于非线性系统的建模和逼近问题研究方面,其在信号处理和自动控制等领域应用广泛.鉴于此,本文首先构造性的研究了带有优化激活函数和固定权值的前馈神经网络的函数逼近与插值性能；其次研究了非线性动力系统中的反馈神经网络逼近及其建模,并将反馈神经网络理论推广和拓展,用其逼近非自治非线性动力系统：最后借助三次样条插值函数,给出了一类非线性动力系统数值求解的方法,分析了该方法与已有的非线性动力系统数值求解方法的优缺点,并刻画了误差估计.第二章介绍了三类人工神经网络：前馈神经网络(Feedforward Neural Networks, FNNs),连续反馈神经网络(Continue Recurrent Neural Networks, CRNN),离散反馈神经网络(Discrete Recurrent Neural Networks, DRNN)及非线性动力系统的基础知识.第三章中采用构造性的方法研究了带有优化激活函数和固定权值的前馈神经网络的函数逼近与插值性能.第四章定性的研究了CRNN及DRNN对非线性动力系统的逼近能力.首先证明了任何给定的非自治非线性动力系统在有限区间内的轨迹可以被CRNN的输出神经元内部状态以任意精度逼近.其次将上述所得结果推广和拓展,采用动态CRNN逼近另一类非自治非线性动力系统.最后将CRNN离散化以应用于非线性动力系统建模,利用DRNN结构来近似静态非线性关系.分析了基于动态数据抽样系统和离散化建模过程所产生的误差,挖掘出了分析和估计误差的等价输入输出结构,刻画出了逼近误差和模型设计误差之间的相互依从关系,并找到了选取合适的系统结构用以减小误差的方法.第五章定量的研究了三次样条插值函数对非线性动力系统的数值求解,即复杂性研究,并结合三次样条插值函数的特点,收敛性、稳定性和二阶光滑性以构造积分型非线性动力系统数值求解,刻画了误差估计.