拓扑绝缘体作为量子霍尔效应的直接推广,近几年受到研究人员的广泛关注。尤其是受拓扑保护的边界态在全介质光子晶体中特殊的光学性质,以及在特殊缺陷结构中独特的传输特性,已经成为近年来研究人员关注的热点问题之一。本文基于量子自旋霍尔效应,主要研究了拓扑光子晶体中单向螺旋边界态的形成机理和传输特性。利用自旋相关的电磁波单向传输特性,提出了边界模式耦合模型,实现具有良好传输特性的光波导器件。同时在椭圆介质柱构成的拓扑光子晶体中激励宽带螺旋边界态,并且实现了光子自旋的引导。具体的研究内容分别如下:（1）在不打破系统时间反演对称性的前提下,通过压缩或扩大类石墨烯晶格单胞的比例,可以打开第一布里渊区中心（38）点处二重简并的Dirac锥,实现能带分离、宇称反转。然后利用布洛赫态之间的模式杂化构建一对赝自旋相反的单向边界态。基于单向边界模式背向散射抑制、不受表面缺陷影响等特性和边界模式耦合理论,从二维拓扑光子晶体螺旋边界态耦合增强着手,采用“三明治”结构的平庸-非平庸-平庸光子晶体对称系统,利用谐振源同时在两个界面上同时激励同向、性质相似的两个螺旋边界态,在拓扑非平庸区域实现较强的光子局域。计算了该结构对应的色散关系,验证在无序、缺陷、急弯等情况下,单向螺旋边界态存在受拓扑保护的稳定性。（2）提出了基于椭圆介质柱构建的拓扑光子晶体,通过计算对应蜂窝状晶格的能带结构发现,Dirac点可以打开一个较大的光子带隙。观察螺旋边界态的表现及传输特性,发现在“zig-zag”边界附近存在一条光子赝自旋引导路径,能够将光能量约束在边界附近,减少不必要的散射损失。研究椭圆介质柱界面与光子自旋引导机制的关系,以及椭圆参数与螺旋边界态工作带宽的关系,利用椭圆介质柱长轴方向引导光子自旋机制,获得具有更大带宽和自导性更强的量子自旋霍尔效应系统,有望解决拓扑光子晶体中螺旋边界态工作带宽窄的问题。（3）研究二维拓扑光子晶体螺旋边界态在不同空气线缺陷结构中的特性,讨论边界处部分晶胞₆C对称性破坏条件下系统非平庸的拓扑相,研究赝自旋模式在空气线缺陷中的传输特性。在此基础上,提出了一种由形变的蜂窝状晶胞和一排参数不同的介质柱组成的光量子自旋绝缘体,在系统中只存在一种拓扑结构的前提下,仍然存在单向传输的缺陷模式,它们的特性与螺旋边界态类似,背向散射被抑制,传输方向与赝自旋锁定,能够无损耗地通过部分结构缺陷。相关研究可以设计性能优越且受拓扑保护的空气波导器件。