Allen等人在90年代通过实验证实了光的轨道角动量的存在。自那以后,开始应用于包括光通信,光学操纵和量子信息处理等领域。利用具有不同轨道角动量拓扑荷数（不同的轨道角动量）的光的模分复用技术在自由空间进行光通信是很有前景的。在自由空间光通信中光的轨道角动量模分复用原理是将同一频率但不同轨道角动量模式的光放在一起进行信息的传输。模分复用和时分复用、频分复用、波分复用、空分复用一样在通信技术中有着巨大的应用价值,它能够有效提高信息的传输容量。空间光调制器在光通信中是一个重要的模块。现在大多数的实验和应用使用的空间光调制器的原理和利用相位板生成轨道角动量模式的方法非常相似。其相比于以前的机械调制有了很大的进步。但是在要求以很高的速度调制时,空间光调制器的刷新频率往往不够快或者设备太过昂贵和复杂。本文中考虑利用衰减全反射原理研究空间光调制器,选取合适的金属材料、晶体材料并结合MATLAB仿真软件对一些影响因素进行参数优化,以满足实验的需要。调制器的结构总共有三层。最上面一层是40纳米厚度金膜,中间一层是铌酸锂晶体,最后一层是200纳米厚度金膜。光强调制的原理是当入射光沿着平行于界面的波矢分量大小与波导的传播常数一致时,会发生模式共振使反射光能量下降。通过电场的调节影响铌酸锂晶体的折射率,使传播常数发生改变,进而控制是否发生模式共振反射光能量是否下降。实验的原理是激光先通过基于衰减全反射原理的调制器的调制,然后利用叉状光栅生成涡旋光,再合成一束光在自由空间传输,最后在接收端处理。本文主要工作如下:1、介绍了轨道角动量光通信现在的研究方向和现阶段存在的问题。主要介绍了大气扰动对于通信质量的影响以及长距离传输时新型光纤的研发。介绍了基于多种物理原理的空间光调制器和各自的特点。2、详细推导了螺旋相位片法产生涡旋光的原理并进行了仿真。介绍了具有轨道角动量的光的产生、检测方法和应用。对拉盖尔高斯光束进行了仿真。详细介绍了光的轨道角动量的应用,尤其是在自由空间光通信中用于做光载波和编码。3、推导了与空间光调制器的原理有关的平板光波导理论并对波导层折射率变化对导波特性的影响进行了仿真;详细推导了与空间光调制器的原理有关的铌酸锂晶体（LiNbO₃）的电光效应和基于该效应的衰减全反射理论;详细说明空间光调制器的影响参数和MATLAB仿真结果。4、分析了空间光调制器的性能,加工和测试结果,以及可能的改进方法和应用。