随着大数据时代的发展和智慧城市的建设,片上光互连在数据中心、高性能计算机等高速、高密度信息传输领域的优势更加突出,光子集成芯片已经成为国际竞争最激烈的领域之一。随着片上光子集成的集成密度越来越高和WDM技术的应用,用来传输信号的光波导的交叉损耗不容小觑,而且信道中的不可避免的噪声问题也在制约着光芯片的小型化,单层硅光子芯片有限空间的密集集成问题日趋严峻。三维光子集成结构可以从物理上有效地避免波导交叉,实现在有限的芯片面积上进一步增加器件的集成密度,使芯片具有更高的光互连能力。本论文主要对三维光子集成结构中的光耦合接口进行了研究。研究目的是为了获得高效、稳定的三维光子集成结构的光耦合接口,本文主要工作内容如下:(1)首次设计并提出了一种应用于3D光集成的双层光栅耦合器结构,本设计可作为3D光集成结构中的光耦合接口,用于片外光源和三维集成结构中各层的光波导之间的经济、高效地光耦合。(2)利用2-FDTD方法仿真设计单向垂直耦合的硅基一维光栅耦合器结构,器件由啁啾光栅和均匀光栅组成,设计时采用粒子群算法对5个设计参数进行全局优化,得到光栅的耦合效率为51.4%。(3)重点研究了3D光集成的双层硅材料的光栅耦合器结构,并采用3D-FDTD方法对器件进行建模仿真,仿真得到在波长为1550nm时,上下两个硅波导层分别能获得25%和28%的归一化光功率。该结构实现了单一片外光源供光,三维集成结构中的两层硅波导层同时获得均衡且稳定的光功率的功能。由两个双层光栅耦合器组成的光集成链路是低偏振相关的结构,仿真得到在入射光波长1536-1558nm区间内,光集成链路的PDL最高不超过0.5dB。(4)设计了高效率垂直耦合的氮化硅光栅耦合器,耦合效率达到了57%。并由此研究了硅基氮化硅材料的双层光栅耦合器结构,从耦合谱线分析,分别对应于TE和TM偏振态的上下两个波导层中的光耦合谱线十分接近,归一化光功率分别为26%和27.3%,不同光子层中获得的光功率较为均衡。