用于头戴显示器的光学系统相比于其他成像光学系统需要更小的体积,更轻的质量,更大的视场,以及更高的成像性能等。随着越来越多具有更多自由度和更强灵活性的光学自由曲面描述方法的提出,再加上超精密加工技术和自由曲面检测技术不断成熟,使得光学自由曲面镜片生产、制造的能力不断提高。很多以光学自由曲面为基础的头戴显示器光学系统结构型式得到更好的发展。自由曲面棱镜式的光学系统相比于其他结构型式在体积,质量,装配难易程度等方面有着更多的优势,在AR头戴显示器中运用较为广泛。本文对用于头戴显示器的光学系统进行了相关研究,根据人眼结构特性、微型显示器规格、系统重量等要求设定参数指标并设计了一款自由曲面棱镜的光学系统。然后对自由曲面棱镜光学模组进行相关测试和调节,根据检测过程和结果,提出并设计了一种基于头戴显示器的半反半透棱镜自由曲面光学系统,使得双目式头戴显示器只需一个使用一个微型显示器,省去一个微型显示器的同时减轻了其在装配和调节过程中的难度。本文的主要研究内容包括:（1）对比了用于头戴显示器的各个结构型式的优劣势,选择以自由曲面棱镜结构型式的光学系统进行设计。根据自由曲面棱镜结构型式及其特点搭建了初始结构,制定了基于该结构特性的优化设计方法和思路。成功设计优化出了一款自由曲面棱镜光学系统并对其成像质量进行分析。设计实现系统的视场角达到40°H×23°V,出瞳直径为6mm,出瞳距离为18mm,系统全视场在截止频率30lp/mm处MTF值大于20%,畸变在最大边缘视场为6.93%。（2）实验检测了双目式自由曲面棱镜头戴显示器进行了镜片面形检测以及光学模组的测试和双目合像调节。对测试的过程和结果进行了分析,实验结果表明:注塑加工完成的自由曲面棱镜面形误差均在11μm以下,对成像质量影响较小;光学模组调节完成的双目合像视差均在2′以下,且畸变和清晰度均符合要求;光学模组在调节完成后的亮度、色度检测结果均符合要求。此外,在调节过程中发现的问题也为下面提出并设计一种半反半透棱镜自由曲面光学系统提供了想法和参考意义。（3）根据测试和调节的过程和结果,提出并设计了一种基于头戴显示器的半反半透棱镜自由曲面光学系统。该系统通过半反半透膜把一个微型显示屏发出的光分成两部分并分别成像在原本头戴显示器的两个微型显示屏的位置,节约了一个微型显示屏的同时还省去了头戴显示器光学模组双目合像调节的环节。该系统根据分成的两部分光可分为T系统和D系统分别设计优化,T系统的全视场在截止频率60lp/mm处MTF值大于50%,畸变在最大边缘视场为0.91%;D系统的全视场在截止频率60lp/mm处MTF值大于60%,畸变在最大边缘视场为0.70%。