目前,.非线性信号处理是备受关注并且极富挑战性的研究课题,它在自动控制、无线通信、经济统计、人工智能、信息融合和图像处理等众多领域等有着诱人的应用前景,成为当前国际上众多学者研究的一大热点。当非线性系统中存在未知参数时,系统的估计任务为：根据系统的观测数据和先验估计信息,通过一定的算法,估计出所需要的待估量,当系统参数未知时,需同时估计系统的状态和参数。扩展卡尔曼滤波是解决非线性信号处理的最为普遍的方法,该方法对于弱非线性的系统可以得到很好的估计结果,但是,对于非线性较强并且系统噪声为非高斯的模型,它的估计精度会大大降低，并且有可能造成滤波器的发散。粒子滤波方法是近年来兴起的一种新的滤波方法,它可以有效的解决非线性、非高斯问题。该算法是在蒙特卡罗模拟和递推贝叶斯估计的基础上,通过一个加权的样本序列来描述后验概率密度,然后用这一近似的概率密度来计算系统的状态估计。从粒子滤波被第一次提出来以来；它已经被成功应用到了信号处理、目标跟踪、生物统计学等众多领域。本文深入讨论了卡尔曼滤波算法(KF)、扩展卡尔曼滤波(EKF)、无味卡尔曼滤波(UKF)的具体算法流程并仿真比较了它们的状态估计结果；研究了粒子滤波(PF)算法,并分别针对粒子退化和粒子枯竭两个方面,讨论了具体的改进算法。仿真实验表明,改进算法PF-UKF-MCMC估计精度高于其他几种估计方法。本文提出了一种新的联合估计算法,该算法利用粒子滤波方法,结合核平滑收缩技术,同时采用标准贝塔分布代替传统的高斯分布,来拟合系统未知参数的后验分布,最终实现非线性系统中参数的迭代估计。仿真结果表明该算法在参数和状态估计精度和收敛性方面都优于双重卡尔曼状态和参数估计(DEKF),可以有效解决非线性信号参数和状态联合估计问题。本文在参数和状态联合估计算法的基础上,把参数和状态扩展为二维向量,针对观测方程为线性和非线性两种情况进行了仿真研究,实验表明了本文算法在混合信号分离的问题中也可以得到很好的运用。