随着社会与现代科技的发展,人们将面临着越来越多的数据,传统的机器学习方法计算开销大,通常难以应用到大规模数据的学习问题上。而当面对大规模学习问题时,在线学习往往是一种易于应用且高效的方法。现有的在线学习方法大致可分为线性模型和核化模型两类。其中,线性模型的计算开销小,所以计算速度快。但当面临复杂数据时,这类模型在精度上很可能表现不佳。后来有研究者引入核技巧（kernel trick）,提出了核化模型,显著提高了精度。然而核技巧的引入,导致模型的计算开销显著上升。因此,如何在提高准确性的同时,能够不引入过多的计算开销,保持较好的计算速度是在线学习中一个十分重要的问题。本文主要关注在线分类问题。在分类问题中,判别信息是十分重要的,却没能被现有的大部分在线分类模型所充分利用。针对这一问题,本文提出了一种新的线性模型,称为白描的判别性正则化在线梯度下降分类模型（Sketch Discriminatively Regularized Online Gradient Descent Classification,SDROGD）。该模型把判别信息同时引入到损失函数以及一项新的正则化项中,最终通过优化模型的目标函数,除了能够达到最小化分类误差的目的,还可以令相同类的样本在投影空间中距离尽可能近,而不同类的样本尽可能远。这样既能保持在线模型的优点,又能提高分类精度。具体地,SDROGD首先借助类内散布矩阵和类间散布矩阵构建了判别信息矩阵,然后把该矩阵嵌入到一项新的正则化项中。而在模型的训练过程中,采用白描技术在线更新判别信息矩阵,这一技术可以方便地与一个数学技巧配合,使得该模型的时间和空间复杂度能够容易地进一步优化,从而能更加适用于在线情景。由于白描技术是一种近似方法,因此本文也给出了其逼近性的相关理论分析。此外,本文还证明了SDROGD的时间复杂度与训练样本的个数、特征维度成线性关系,且具有良好的收敛性。最后,本文从多个角度进行实验,包括分类精度、训练时间以及参数稳定性。结果表明,SDROGD具有较好的计算速度,甚至在分类精度上超过了一些采用核技巧的方法。为了使SDROGD模型能够应对更复杂的在线多分类问题,本文进一步提出了Multi SDROGD模型。通过扩展模型参数,Multi SDROGD可以一次求解同时得到多个分类超平面。本文也给出了多类模型的相关优化方法及理论分析,证明多分类模型Multi SDROGD与二分类模型SDROGD具有相似的收敛性及时空复杂度。在多个实验数据集上的实验结果也表明Multi SDROGD在多类情况下依然有较好的表现。