高功率微波源（HPM）在向高功率、高频率、小型化趋势发展的过程中,由于尺寸随频段拓展不断减小,器件不可避免受到功率容量与模式竞争的限制,为了改变这一现状,本文提出了一种新型V波段径向线相对论返波振荡器（RBWO）,该器件工作在高阶模式,能够有效的提高器件的功率容量和抑制器件中的模式竞争,在发展高功率、高频率、紧凑化的HPM具有巨大的潜力。论文主要包括以下几个方面:首先,利用博格尼兹函数法推导了径向线慢波结构（SWSs）的色散方程,通过数值计算与软件仿真验证了色散方程的正确性,研究结构尺寸对色散特性的影响,以及模式的品质因数、起振电流、耦合阻抗等重要物理参量,得到高阶模式的选择与控制机制。结合理论研究的结果,设计了V波段双侧非对称径向线RBWO的粒子模拟模型,在二极管电压524 kV,电流16.27 kA条件下,器件工作在TM₀₂模式,输出功率为1.5 GW,频点为60.56 GHz的微波。同时,我们提出一种模式选择的新方法,仅改变漂移管长度,可实现器件工作模式与频率的变换。创新性提出利用单侧SWSs与电子束进行束波互作用,解决了装配误差严重影响实验结果的难题,在二极管电压为237 kV,电流为4.25 kA条件下,输出功率约为300 MW,频率为63.767 GHz的微波,通过倒圆角处理,SWSs的最大表面场强降为0.95 MV/cm。