随着人工智能、物联网和大数据等众多新兴技术的发展,工业社会即将进入第四次工业技革命时代。众多技术催生了海量的数据,为了对指数增长的数据进行传输和处理,以云数据中心为代表的大规模的数据中心在世界各处落地开花。云数据中心拥有一套灵活、快捷的数据交换和传输的管理系统,能够快速、准确地响应多业务需求,实现资源的高利用效率。在云数据中心物理层传输方面,本文主要针对云数据中心不同传输场景,设计了基于高阶调制方式、多维度复用、相干检测以及数字信号处理技术的相干光通信系统。在云数据中心内部的光互联的场景下,本文提出了一种DP-16QAM、外差检测和简化数字信号处理技术的低成本、大容量的相干光通信系统;同时利用外差检测产生的毫米波信号直接无线覆盖云数据中心,实现有线-无线融合的信号传输。系统研究了一套适用于近距离传输场景下的数字信号处理算法,包括基于蝶形滤波器的偏振解复用和动态均衡机制、载波频率和相位的估计与补偿。仿真分析了在不同光器件下相干光系统的传输性能,包括不同线宽的激光器(100Khz、1MHz和10MHz),不同响应带宽的光电探测器(35GHz、40GHz和60GHz),根据器件和算法复杂度衡量,选择满足系统误码率和数据中心内部低成本、大容量互联场景需求的最佳方案。在云数据中心之间的光互联场景下,本文设计了一种基于QPSK、零差检测和改进数字信号处理技术的光域奈奎斯特脉冲整形的时分复用系统。利用级联的马赫增德尔调制器实现周期0.1ns、半波带宽0.011ns的周期性奈奎斯特脉冲产生,作为时分复用系统的光载波。在发射机插入训练序列,在相干接收机中利用训练序列和数字信号处理的方法,采用滑动窗口的算法实现锁相环的功能,同时训练序列对信道质量评估,补偿信号传输过程产生的残留的物理损伤。并采用多路奈奎斯特光脉冲时分复用信道、每一路传输独立的光信号时,分析在150km的传输距离下补偿机制的效果和系统的传输性能。在云数据中心网络结构上,本文提出了一种结合物理层奈奎斯特时分复用系统低碎片度的三维网络模型;同时结合物理层的虚拟化技术和软件定义网络(SDN)技术,采用Mininet实验平台和Ryu控制器搭建SDN环境,模拟云数据中心内部的网络流量情况,测试云数据中心的leaf-spine网络结构。