随着科技的发展,高维数据的处理问题越来越吸引人们的眼球,在分析高维数据的过程中将会产生各种各样的问题,如变量多样本少的情况下,采用传统的多元统计方法处理数据会出现过度拟合的现象,因此传统的多元统计方法已经不能解决目前所面临的难题.偏最小二乘回归方法虽然能解决变量多样本少的情况,但是它不会对变量进行选择.如果能够找到方法使得一些不重要的变量的系数压缩为零,只挑选出重要的变量,达到变量选择的目的的同时可以使预测误差达到最小,对于高维数据的处理问题来说将具有非常重要的意义.因此,本文主要做了以下研究:第一部分主要介绍了研究背景、研究目的及意义以及国内外对改进偏最小二乘算法的研究.第二部分介绍了多元线性回归模型的原理及其性质,探讨了约束最小二乘的几种罚函数:岭回归罚、LASSO罚、弹性网罚、SCAD罚及其算法,以及参数选择进行了详细的研究,同时介绍了偏最小二乘的建模步骤及主成分个数的选择问题.第三部分通过对偏最小二乘回归进行改进,在其建模的过程中上加入三种不同的罚函数:LASSO罚、弹性网罚、SCAD罚,并对其算法进行研究,同时通过真实的玉米粒的光照数据对三种算法进行比较研究,得出LASSO罚约束偏最小二乘的回归方法优于其它两种罚函数约束偏最小二乘的回归方法.第四部分探讨了基于凸约束的偏最小二乘回归算法,我们引入一个正规化的框架来改进算法,通过求解一个放松的SIMPLS惩罚来优化问题,对正则化的偏最小二乘的步骤及算法进行了研究,最后,以灵敏度和特异性作为评价标准,通过模拟数据来对其进行比较研究,结果表明,凸约束偏最小二乘算法明显优于其它几种方法.