宽带网络是国家最为重要的基础设施之一。近年来随着5G商用化步伐的不断加速,整个社会即将进入更深入的数据化时代。在这一波从互联网到物联网的巨大变革中,以AR/VR、自动驾驶、工业互联网、智慧城市、云计算等为代表的众多新兴技术和产业得到迅速发展,全社会信息化进程加快,这些都对光通信系统中的光器件、光模块提出了更高的要求。通信业务的增加与信息类型的丰富逼迫着通信速度与容量的不断提高,而波分复用技术是增加光纤通信系统传输容量最有效的方法之一。5G应用对波分复用系统的可靠性要求也更为严苛。相比于目前已有的光波分复用滤波元件,记录于全息记录玻璃的体全息光栅型滤波器,其在具备光纤光栅型波分复用器优异性能的同时,还具备介质薄膜型波分复用器的简单结构,此外其高环境稳定性与低制造成本等优势,使其具备替代目前商用光波分复用器的巨大潜力。本论文以记录于全息记录玻璃的体全息光栅作为光波分复用器,理论结合实验研究了体全息光栅的滤波原理,制备工艺以及设计了光波分复用结构。结合耦合波理论,详细分析了透射型和反射型体全息光栅的衍射特性。主要包括光栅周期、厚度、以及折射率调制度对光栅的波长选择性、峰值衍射效率和第一衍射旁瓣的影响,以及这两类光栅对偏振光的不同衍射作用。为体全息光栅的滤波作用建立计算模型。用“二次化料”熔炼方法制备得到新型全息记录玻璃。采用双光束干涉法与两步热处理法,探索制备了体全息光栅。使用波长325nm激光,曝光剂量为800mJ/cm2,在500二下成核3小时,530下析晶2小时制备得到厚度3mm,周期为1.8μm的体全息光栅。并研究了新型全息记录玻璃的成栅机理。使用传输矩阵方法,从条纹的占宽比与漂移量两方面,分析了制备过程中记录条纹形变对其衍射滤波特性的影响。对制备的体全息光栅进行了光栅周期,峰值衍射效率,折射率调制度以及波长选择曲线的测定,得到其相对峰值衍射效率为73%,折射率调制度为162ppm,零值半宽约为3nm。通过分光计验证了其滤波能力,观察到了其对光源的衍射条纹。并结合体全息光栅的衍射特性,设计了串并联结合型以及多重体全息光栅型的波分复用器,并给出了相关的设计思路。前者可以灵活实现密集波分复用,后者可以简化系统器件结构。对二重体全息光栅进行了实验制备以及对比分析,发现其会带来峰值衍射效率降低的不利影响。