自高锟先生提出以玻璃作为光通信媒介以来,得益于光纤设计制备、波分复用、宽带放大、高阶调制和相干接收等技术的发展,光纤传输容量实现了持续高速增长,而今,光纤已成为全球通信网络的基石。随着5G、大数据、云存储、云计算、高清视频等的迅速发展,全球因特网数据流量预计仍将以年均约26%的速度高速增长,“万物互联”的新时代对于光纤传输容量提出了更高的要求。然而由于非线性效应以及光致连续损伤效应,传统技术手段难以维持光纤传输容量的高速增长。而空分复用技术能够充分利用光纤的空间维度,通过正交模式复用或多纤芯复用的技术手段,有望实现单根光纤传输容量的成倍增长。研究空分复用技术对于实现下一代大容量光纤通信具有重要意义。本文聚焦于弱耦合空分复用特种光纤及关键器件相关的研究,具体研究内容包括:低模间串扰少模光纤设计与性能表征、宽带弱耦合多芯光纤设计、模分复用关键器件设计与制备等方面。论文的创新点和主要研究成果如下:1)针对阶跃少模光纤中LP₂₁模与LP₀₂模之间存在较强模式耦合的问题,创新性地提出了环辅助型少模光纤结构。通过优化环辅助结构的参数,设计制备了最小模间有效折射率差为1.8×10^-3的环辅助型四模光纤,是阶跃折射率四模光纤中最小有效折射率差的2.2倍。1550 nm波长处各模式平均损耗与模式相关损耗分别为0.23 dB/km和0.02dB/km,与阶跃折射率少模光纤相比,由于环辅助结构引入的额外损耗小于0.01 dB/km。首次基于相位噪声补偿扫描波长干涉仪技术实现了23 km少模光纤分布式模式耦合的连续测量,结果表明,环辅助型少模光纤具有更好的鲁棒性,在强扰动情况下LP₂₁与LP₀₂的模间串扰得到有效抑制。进一步的,设计了环辅助型七模光纤,支持12个独立空间信道,最小模间有效折射率差约1.7×10^-3。2)针对高密度多芯光纤截止波长长、可用带宽小的问题,通过优化异质纤芯的沟槽参数,能够很好地平衡串扰、有效模场面积以及截止波长之间的折衷关系,在保证低串扰的同时,大幅提高多芯光纤的可用波长范围。详述了不同纤芯的参数优化与选择方案,设计了125-μm包层六芯和八芯光纤,其中六芯光纤串扰小于-30 dB/100km,截止波长约1300 nm,相较于已报道同等串扰水平的其它多芯光纤,单模工作波长范围提高为原来的3倍左右;八芯光纤串扰小于-30 dB/km,截止波长为1260 nm,能够满足接入网和数据中心等短距离应用场景的需求。3)制备了高性能的宽带低插损LP₁₁模式耦合器,最低插入损耗仅0.3 dB,在1480-1640 nm波长范围内模斑清晰可见,插入损耗小于0.6 dB。基于制备的器件搭建了两模复用/解复用器件,并在15 km少模光纤中分别实现了25 Gbit/s NRZ信号和20 Gbit/s PAM4信号的传输。基于三模耦合模型,提出了一种手性耦合光纤型方向角非对称模式(LP_mn模,m≠0)旋转器,并利用光束传播法进行了仿真验证。在传统的基于保偏少模光纤的模式旋转器中,需要使得入射模式瓣方向与光纤快轴成指定夹角。而在本文所设计的模式旋转器中,能够将任意入射的LP_mn模（m≠0）旋转为与其正交的简并模式。以LP₁₁模为例,对于任意入射模式瓣方向的LP₁₁模,C波段内旋转效率高于97%,模式消光比优于29 dB。这一设计方案可拓展至任意高阶方向角非对称模式,有望用于简并LP模式的复用。综上所述,本论文旨在通过新型光纤与器件的设计制备,探索改进弱耦合空分复用光纤通信系统性能的方法。本文从耦合模理论、光纤设计与表征、器件设计与制备等方面进行了系统研究,所发展的新型光纤及器件有望进一步推动低成本弱耦合空分复用技术的实用化。