涡旋光束和柱状矢量光束具有随空间变化的波前相位分布和偏振分布,这些特性使得它们在光通信、量子纠缠、光镊子、显微技术、激光加工等领域具有巨大的应用前景。传统的涡旋光束/矢量光束生成和检测手段往往需要大量体光学元件,复杂的光学系统限制了它们的应用。表面等离激元可以将电磁波限制在亚波长的尺度上,这种在纳米尺度操纵光波的能力使得表面等离子体器件成为光电、生物、化学等领域的研究热点。本论文主要针对表面等离激元的耦合和传输特性,研究片上矢量涡旋光束的检测或生成,探索对矢量光束进行操纵的表面等离子体器件的设计及应用。本论文的主要研究成果和创新点如下:1.基于表面等离激元的干涉现象,提出了一种同时探测矢量涡旋光束自旋和轨道角动量的表面等离子体器件设计方案。已有的研究对矢量涡旋光束自旋和轨道角动量同时探测的讨论十分有限。本论文所提出的结构可以区分通信波段上拓扑电荷数|l|<3的矢量涡旋光束和标量涡旋光束。该结构适用于整数阶和非整数阶轨道角动量光束的探测,拓扑电荷数可以根据干涉图样特征条纹位置直接读出。此外,该结构还具有非破坏性探测、设计灵活、较大的制造公差容忍度等优点。2.借鉴体光学器件波带片的原理,提出了表面等离激元平面内波带片结构,并将该结构用于涡旋光束的轨道角动量探测。通过波带片的成像理论建立了表面等离激元平面内波带片的聚焦模型,得到了轨道角动量和聚焦点位置的关系。经过设计,所提出的结构可以探测拓扑电荷数|l|<3的涡旋光束。此外,平面内波带片所用的单缝隙结构还被进一步改进为正交缝隙阵列结构,实现了对矢量涡旋光束的自旋和轨道角动量的同时探测。该方案设计灵活,对加工精度要求较低,它在片上矢量涡旋光束检测、量子态操作等领域具有潜在的应用价值。3.基于表面等离激元平面内全反射的原理,设计了一种用于汇聚角向偏振矢量光束的表面等离子体透镜。该透镜具有较高的设计自由度,可以针对特定波长或宽带波段优化;可以独立工作,或与其它结构配合以实现径向和角向偏振同时汇聚。此外,在平面内全反射条件被破坏的情况下,所提出的结构还可以作为液体折射率传感器使用。文中研究了器件在折射率为1.3到1.45的环境内的传感性能。该传感器基于强度探测,结构更简单。因此,该透镜在近场能量汇聚、近场成像、传感等方面具有一定的应用前景。4.基于混合阶庞加莱球的特性,提出了一种可生成混合阶庞加莱球上任意态光束的metasurface设计方案。所提出的方案将自旋相关的菲涅耳透镜相位分布与角向相位分布相结合,使得输入的左旋和右旋圆偏振光可以被独立地转化为混合阶庞加莱球上南北两极所表示的光束。根据庞加莱球上各个状态间的转换和叠加关系,所提出的设计方案可以将普通庞加莱球上任意状态一一映射到混合阶庞加莱球上,从而实现任意可调的复杂矢量光束生成。