随着移动通信和互联网的迅猛发展，现有微波通信频段的带宽已无法满足日益增加的多媒体宽带无线业务的需求，因此毫米波无线通信是迈向高速率和大容量的有效途径。ROF技术是将光纤通信技术与毫米波通信技术进行融合，既可有效解决毫米波在大气中传输距离短的问题，又可以实现无线通信宽带化，在多媒体移动通信、固定网宽带无线接入、无线局域网和智能交通等领域具有广阔的应用前景。本论文围绕ROF系统中光学产生毫米波及其相关技术进行理论与实验的研究，取得了一些创新性研究成果。具体研究的主要内容与成果如下：(1)从光外差产生的毫米波电流式出发，讨论了光外差产生毫米波的条件，探讨了光外差产生电磁波的频率上限及制约因素，得出了频率上限主要受光拍形成条件和光电探测器带宽的限制。(2)分析了掺铒光纤激光器的纵模特性，阐述了单纵模激光的产生条件与测量方法。从掺铒光纤(EDF)驻波干涉原理和速率方程出发，推导了EDF饱和吸收体的吸收系数和FBG带宽的数学式，阐述了对双波长激光进行单纵模滤波的原理。(3)提出和实验证实了用可调带通滤波器和带阻滤波器级联生成双峰窄带滤波器的新方法。利用可调带通滤波器和带阻滤波器级联，获得了波长可切换的双波长光纤环形激光器，得到了频率间隔分别为49.85 GHz和59.83 GHz的双波长激光，研究了双波长激光的稳定机理和功率输出特性。(4)将梳状滤波的延迟干涉仪(DI)与可调带通滤波器进行级联，用未泵浦的保偏掺铒光纤(PM-EDF)饱和吸收体进行单纵模滤波，获得了波长可调的双波长单纵模掺铒光纤环形激光器。用光电探测器对双波长激光进行拍频，得到了线宽小于25KHz的20.07GHz微波和39.96GHz毫米波。(5)提出了用微环谐振器实现波长可调的双波长单纵模光纤激光器和光外差产生毫米波的设想。理论计算表明，通过选择微环半径和耦合系数，可以获得pm量级带宽和60GHz频率间隔的梳状滤波，可以减少光纤激光器的纵模数和提高光差拍信号的稳定性。(6)采用火焰加热拉锥技术，用标准单模光纤制备了直径约5.8μm的微纳光纤。用微纳光纤设计并研制了两种环直径的knot谐振器。实验结果显示，该knot谐振器有清晰的梳状谱，性能良好。利用knot谐振器和PM-EDF饱和吸收体，实验得到了波长可调的双波长单纵模掺铒光纤环形激光器，光外差获得了15.57GHz微波和35.57GHz毫米波，证实了用微环谐振器实现波长可调的双波长单纵模光纤激光器和光外差产生毫米波的可行性。(7)探讨了ROF系统毫米波源的设计，阐述了发射天线的连接方式，解释了光电探测器的选用方法，设计了一种基于零偏置单行载流子光电探测器的60GHz毫米波源，并论证了其可行性。