集成电路技术在过去几十年中经历了飞速发展,电子器件依据摩尔定律在尺寸上不断缩小,目前实验室中晶体管的栅极长度已经达到几十纳米。与之相比,光子器件的集成则要落后很多,光波导及其器件的横向尺寸仍然保持在波长量级。要提高光子器件集成密度,关键是要将光约束在小于衍射极限的空间内。目前,在光子器件集成领域,在国际上已经吸引研究人员的兴趣被人们广泛认为比较有潜力能实现光子器件进一步集成的研究方向主要有以下几种:光子晶体波导及器件,高折射率差介质波导及器件,以及表面等离子体波导及器件等。本论文以表面等离子体与高温生长的半导体准一维纳米结构为对象,研究基于这两种情况的亚波长光子器件,并探讨实现进一步光子集成的可能性。论文首先介绍了金属的色散模型,并以此为基础,分析了金属/介质单界面上的表面等离子体波及其主要性质。实际情况中的表面等离子体器件往往是基于多层金属结构,本文分析了两种常用的多层结构中的表面等离子体特性,推导出其色散方程,并分析其性能差异及潜在应用。接下来,研究了两个金属—介质—金属(MIM)直波导之间的耦合情况,提出基于MIM波导的亚波长定向耦合器及马赫—曾德干涉仪并在理论上分析了其性能。利用MIM波导的有效折射率随着中间介质层厚度的减小而增大的原理,通过周期性改变介质层的厚度来调制有效折射率,我们提出表面等离子体波导布拉格光栅并对其进行了研究。与文献中的类似结果相比,该研究方案在实验上更加容易实现。为了抑制透射谱上较大的旁瓣,我们又提出了S型布拉格单元,并且得到了更好的透射频谱。论文还研究了通过在波导布拉格光栅中引入缺陷而实现的法布里—珀罗结构及其特性。我们还首次研究了折射率引导型表面等离子体波导中的多模干涉效应,并设计了1×2的多模干涉分束器,这种分束器比文献中报道的采用长程表面波结构及硅基波导结构得到的多模干涉分束器在横向尺寸上分别小2及1个数量级。我们研究了等效折射率法在折射率引导型表面等离子波导的应用,在此方法基础上采用二维方法设计了1×N的多模干涉分束器并用三维时域有限差分方法进行了验证。该研究为快速而有效地仿真基于折射率引导型表面等离子体波导的器件提供了简便的途径。我们提出一种金属槽表面等离子体波导,能将光有效地约束到亚波长尺寸内,并且光在这种波导中可以高效率地通过90度弯曲,从而可以大幅度提高光器件集成密度。在实验上,我们利用超净室内的半导体加工工艺,使用电子束曝光技术,并分别采用剥离方法与反应离子刻蚀技术这两种图形转移方法制备了这种波导结构。我们采用简单经济的高温熔融方法,在高温炉中制备了磷化铟、氧化镓、氧化锌、锗等半导体的纳米线结构,这些纳米线表面光滑、直径均匀,适宜作为光波段的亚波长光波导结构。我们还使用常用的材料表征技术对这些纳米线进行了表征,并测量了几种纳米线结构的吸收光谱与光致发光光谱。我们采用倏逝波耦合技术,利用光纤拉锥将氦氖激光耦合成功耦合到氧化镓纳米线中,并测量了氧化镓纳米线光波导的传输损耗,所得值与文献中报道的半导体纳米光波导传输损耗在相同数量级。最后总结了全文内容,并对未来研究提出了展望。