网络编码是一种可以改进网络吞吐率和可靠性的技术。它的出现彻底地打破了传统网络中,中间节点只能进行存储转发的思维定势。从信息论的角度出发,网络编码融合了编码与路由的概念,通过允许中间节点对从多条路径接收到的信息进行编码转发,接收节点通过相应的解码获得原始信息,可以达到通信网络的最大容量,从而最大限度的利用了现有的网络资源。网络编码可以增加网络的吞吐率,实现网络的负载均衡,增强网络的安全性和健壮性。基于网络编码的应用从有线网络到无线网络都有出现。但网络编码离实际应用还有很长一段距离,还有很多关键问题需要解决。首先,随机网络编码虽然将集中式选取编码系数方式,改变为分布式选取编码系数的方式,提高了网络编码的实用性。但是却由于其不确定的解码概率,限制了其应用范围,特别是较小有限域的应用环境。本文首先研究了随机网络编码的解码概率问题,推导了十分准确的解码概率方程,以寻求在较小有限域环境下,提高解码概率的方法。其次,由于网络编码的特殊传输方式——中间节点编码融合数据包,导致信宿的回馈方式和内容与传统网络完全不同。因此,本文接着研究了随机网络编码回馈机制问题,探讨了网络编码环境下回馈机制的基本原则。最后,同样是因为网络编码的特殊传输方式,导致网络编码的网络安全问题相较于传统网络安全问题出现了新的变化。本文最后研究了随机网络编码的安全机制问题,以应对其主要面临的两大安全威胁—窃听攻击与污染攻击。本文的研究成果主要有以下几点：1)结合信源的重传模型并考虑多种影响因素,提出了目前较准确、完备的随机网络编码解码概率方程——基于马尔可夫链的重传解码概率方程。通过对该概率方程的数值计算,我们得到了有限域大小p、网络容量c、信源的代大小g、信宿的接受能力d以及重传次数k对解码概率的影响规律。并为网络编码在较小有限域下,如何提高解码概率提供了理论依据,并给出了不同有限域下冗余包的下界值。2)提出基于正交编码回馈的算法,并给出了任意有限域任意维度正交码的生成算法。并通过仿真实验,基于正交编码回馈的算法的可行性以及在不同网络拓扑结构下稳定性能。3)提出了基于秩距离码的安全机制,为网络同时提供纠错能力、检验污染包的能力以及抵抗窃听攻击的能力。并针对重污染的网络环境,提出基于秩距离码的行向量算法,来提供快速判断污染包的能力,遏制污染包的蔓延；以及针对轻度污染的网络环境,提出基于秩距离码的列向量算法,来提供较强的纠错能力。本论文的研究工作有助于基于网络编码的应用提升解码概率,思考合理的回馈机制,并提高自身网络安全。