近年来,随着大数据时代的到来,张量与基于张量的研究方法逐渐出现在人们的视野中。多项式与张量关系密切,每一个多项式都可由张量表示出来。多项式优化问题是近年来被大量研究且理论丰富、应用广泛的一类重要的优化问题,在满足一定的条件下多项式优化问题通过KKT条件可转化为一种特殊的互补问题:广义多项式互补问题。本文主要基于张量方法对多项式优化问题以及广义多项式互补问题展开研究。具体研究内容如下:1、将矩阵半定规划延伸到了三阶张量空间中。借助于一种新的三阶张量间的乘法规则:张量T乘积,本文对三阶对称张量的半正定性进行了系统的讨论,将半正定矩阵的一些性质相应推广到了三阶T半正定张量上,并基于三阶T半正定张量所组成的集合是具有非空内部的、尖的、闭凸锥且是自对偶锥这些性质,提出了三阶张量半定规划的模型并讨论了其对偶理论。特别地,提供了一种将三阶张量半定规划转化为矩阵半定规划的简单求解方式,并给出了这种新的三阶张量半定规划在几类问题中的应用。2、研究了无约束多项式优化问题的三阶张量半定规划松弛方法。在多项式优化问题的求解中,一个重要的方法就是矩阵半定规划松弛。而用这种松弛法带来的一大困难就是,半定规划松弛问题的规模会随着多项式次数增高或者变量个数增多而显著增大,这极大地限制了对大规模多项式优化问题的求解。本文将moment矩阵推广得到了一种三阶T-moment张量,并基于Lasserre松弛的思想上,利用张量半定规划给出了一种序列逼近方法来求解无约束多项式优化问题并给出了收敛性分析。就无约束块循环多项式优化问题而言,这种新的张量半定规划松弛方法能够使得最后需要求解的半定规划问题的规模大大减小。3、借助于对多项式首项函数所对应张量的讨论,研究了广义多项式互补问题解集的非空紧性与解的唯一性。利用度理论这一研究工具,本文在广义多项式互补问题与张量互补问题之间,以及广义多项式互补问题与多项式互补问题之间搭建了桥梁,使得对广义多项式互补问题解集非空紧性的研究在一定条件下可转化为对这两类简单问题的讨论。另外,由于用于保证一般广义互补问题有唯一解的一个重要条件:“函数对的强单调性”,对于多数多项式函数对来说无法满足。因此,在一个更宽的条件:“函数对的严格单调性”以及其它假设下,几个关于广义多项式互补问题的全局唯一可解性的结果被给出。最后,本文对广义多项式互补问题的子类问题:张量互补问题,建立了全局误差界结果。