随着航天技术、原子能、微电子学、信息技术及生物工程等新兴科学技术的发展，对机械加工精度的要求越来越高。高速超精密数控机床是实现精密加工的首要基础条件，也是现代化制造业的关键生产设备。主轴系统故障诊断技术在企业中的应用能够及早发现数控机床故障，保持运行精度，节约维修费用，提高利用率及施行科学维护。本文介绍了主轴系统关键部件的故障信号特征，以主轴、滚动轴承和齿轮作为研究对象，应用非线性、非平稳信号分析方法对非线性微弱信号特征提取技术与早期故障诊断技术进行深入的理论研究和应用研究。针对主轴系统早期微弱非线性非平稳故障的特征提取技术，通过研究适合处理非线性、非平稳信号的EEMD方法和小波包分解方法，探究流形学习算法对高维非线性数据的特征提取，提出了基于EEMD和小波包的故障敏感特征提取方法、基于流形学习的时频域统计指标的敏感特征提取方法、基于流形学习的轴心轨迹特征提取方法。研究了流形学习和SVM的参数优化问题，考察目前常用的优化方法，包括网格搜索算法、粒子群优化算法和遗传算法，对比分析了它们的优缺点。最后将网格搜索算法应用于流形学习和SVM的参数寻优，提出了基于流形学习和SVM的故障诊断方法。利用MATLAB和LABVIEW语言，开发了主轴系统的故障诊断系统。系统包括主轴信号分析系统、轴承与齿轮信号分析系统两个部分，分别可以实现数据采集、轴心轨迹显示、趋势分析、离线诊断等。