随着云计算和5G等新型网络技术的迅速发展,数据中心中的网络流量呈现爆炸式增长的趋势,如何保证数据中心的健壮运行和用户优质的服务体验质量成为当前数据中心中研究的一个热点。在数据中心中,多对一的流量模式极易导致数据中心产生典型的TCP Incast问题（多个发送方同时向一个接收方发送数据,造成瓶颈链路的拥塞）,这会直接降低用户的产品使用好感度;而不当的路由容易导致数据中心产生流量负载分配不均的问题,进而造成数据中心中网络节点的崩溃。因此,数据中心需要更智能、更有效的拥塞控制和负载均衡算法。本文基于软件定义网络（Software Define Network,SDN）下的数据中心,引入深度强化学习（Deep Reinforcement Learning,DRL）,针对数据中心中典型的TCP Incast问题和流量负载分配不均问题,分别实现了PERDQNCC（Prioritized Experience Replay DQN Congestion Control）和A2CLB（Advantage Actor Critic Load Balancing）算法。针对数据中心中典型的TCP Incast问题,本文结合深度强化学习算法DQN（Deep Q Network）实现了拥塞控制算法PERDQNCC,它可以感知网络环境的状态（吞吐量、Openflow流的往返延迟和丢包率）,从而判断网络是否发生拥塞,并动态调整发送主机的发送速率以缓解网络拥塞。PERDQNCC在所有发送主机上部署智能体（一种能够思考并与环境交互的独立实体）,定期地收集网络环境信息,通过强化学习所具备的奖惩机制,为发送主机分配最合适的发送速率,达到避免拥塞、缓解拥塞和最大程度利用网络资源的目的。实验结果表明,PERDQNCC在数据中心的TCP Incast场景中可以缓解拥塞,并在链路空闲时充分利用链路带宽。针对数据中心中流量负载分配不均的问题,本文结合深度强化学习算法A2C（Advantage Actor Critic）实现了负载均衡算法A2CLB,它可以根据网络环境的状态（吞吐量、Openflow流的往返延迟、丢包率和链路的可用带宽）为Openflow流动态地选择最优的转发路径。由于传统的负载均衡算法ECMP会将生命周期长的大的流映射到同一路径,从而导致严重的负载不均衡及网络拥塞问题,所以这种静态的映射模式不适合随机性很强的数据中心流量。因此,本文基于A2C算法,为每一个网络转发设备设置一个智能体,监测各个转发路径的网络环境状况,根据环境动态地选择Openflow流的转发路径,以达到负载均衡的目的。实验结果表明,在数据中心常见的胖树拓扑结构中,A2CLB的负载均衡效果比ECMP更好,流量分配得更均匀,并能够充分利用链路带宽。在常见的流量模式下,A2CLB的平均丢包率比ECMP低15.3%,平均往返延迟比ECMP低49.2%,平均吞吐量比ECMP高15.4%,平均流完成时间比ECMP低37.6%。