随着互联网的发展和创新，IPTV、云存储、高清视频等各种高带宽新业务不断涌现，对接入网络也提出了更高要求。无源光网络（PON）技术具有高带宽、成本低、可靠性好等优势，被认为是解决最后一公里宽带接入最有前景的有线接入技术之一，是过去几年全球FFTx建设的主力。正交频分复用（OFDM）早期主要用于宽带有线和无线系统，被应用到多种重要标准，如欧洲的数字视频广播（DVB）、IEEE Wi-Fi、第四代移动通信的长期演进（LTE）技术等。由于OFDM信号能有效地对抗色散，该技术又被应用到光通信方面，可以实现超大容量长距离传输。2007年，美国NEC实验室将OFDM技术引入光接入网，提出正交频分复用无源光网络（OFDM-PON），利用高速数字信号处理的优势，实现了灵活的超高速光接入。为了降低规模应用时的接入网系统成本，OFDM-PON需要支持更长的传输距离和更高的分光比，也就是需要高的光功率预算。传统增加光功率预算的方法是增加信号的入纤光功率，但高的发射功率将加剧接入网系统中的非线性效应，进而恶化系统性能。因此，如何实现在发射光功率一定的情况下，提高系统的接收灵敏度，从而达到增加系统光功率预算余量的目的是OFDM-PON系统研究的重点和难点。OFDM-PON系统的信道估计作为信号能够正确解调制的前提，是影响系统接收灵敏度的关键因素之一。此外，前向纠错编码（FEC）技术可以在一定程度对系统的色散进行补偿，改善误码率（BER）性能，也是提高系统接收灵敏度的有效途径之一。本文对OFDM-PON系统中的信道估计和编码技术进行了相关研究，具体工作如下：首先，研究了OFDM-PON系统中基于导频的信道估计算法，提出了群导频信道估计算法，并通过实验定量地研究了其在直接检测光OFDM-PON系统中的性能。实验结果表明，该算法能够有效地提高系统的接收灵敏度，其性能明显优于现有的信道估计算法。同时，本文还提出了基于变换域处理的信道估计算法，实验对比结果表明，在OFDM-PON系统中导频开销相同的条件下，变换域处理的信道估计算法可以获得更大的误码率性能改善。其次，在信道估计的基础上，本文研究了前向纠错编码中低密度奇偶校验码（LDPC）技术对OFDM-PON系统接收性能的影响。实验结果表明，通过LDPC编码，可以使系统的性能得到了明显的改善，进一步增加了OFDM-PON系统的接收灵敏度，降低了对接收光功率的要求。