层状硫系化合物（包括Bi₂Se₃,Bi₂Te₃,Sb₂Te₃,In₂Se₃等）是一类具有特殊晶体结构和物理性质的材料体系,在凝聚态物理、量子自旋、光电、热电及能源等领域都有巨大的研究和应用价值。其中Bi₂Se₃除了是传统的热电转换材料外,新近被发现为体能带隙最宽（0.3eV）的强拓扑绝缘体,是有可能实现拓扑绝缘体室温应用的基础材料;而其低维量子结构,具有可预期的更为新颖的量子物理属性和更高性能的热电转换能力,因此层状硫系化合物及其量子结构近年来得到了广泛关注与研究。但层状硫系化合物具有不同于常见共价半导体的混合型键合结构,其生长制备面临诸多挑战,目前在该领域的深入研究报道有限。本论文针对制备层状硫系化合物薄膜和量子结构的基本科学问题开展讨论,重点研究了层状硫系化合物薄膜在硅衬底上的可控制备及其电学性能,层状硫系化合物纳米结构和多层异质结的制备工艺及生长动力学,以及层状硫系化合物可控掺杂及量子结构的电学和热学性能。主要工作如下:1.利用自主搭建的物理气相沉积（PVD）设备,系统研究了使用层状硫系材料的化合物源在Si衬底上制取Bi₂Se₃、Sb₂Te₃和Bi₂Te₃薄膜的制备工艺和生长模式。通过研究层状硫系化合物蒸发源温度、衬底预处理条件及衬底生长温度等对层状硫系化合物薄膜结构、形貌和成分的影响,得到制取高质量c轴取向的Bi₂Se₃、Sb₂Te₃和Bi₂Te₃薄膜的物理气相沉积工艺条件,为这类层状硫系化合物材料与现今主流半导体Si之间外延研究及异质结能带研究提供制备工艺参考。2.研究了通过Ar离子溅射刻蚀的方法,对Bi₂Se₃薄膜进行层层刻蚀,利用XPS/UPS对薄膜和衬底中元素的核极谱进行探测和对比,首次通过价态和能带特点推导得到Bi₂Se₃与H-Si异质结之间的能带结构关系,为Bi₂Se₃与H-Si异质结的载流子控制及光电探测方面提供重要物理参数。Ar离子枪层层刻蚀的薄膜样品中,通过对Bi 5d、Se 2p及衬底中的Si 2p进行能谱分析,从薄膜和衬底之间锐利的元素分布,侧面证实Bi₂Se₃和H-Si之间范德华外延特性。同时得到Bi₂Se₃和H-Si之间肖特基势垒高度ΦB的值为0.31eV。3.研究了通过PVD设备在不同衬底上进行Bi₂Se₃层状材料纳米结构制备工艺和生长机理。还研究了在PVD设备中,进行层状硫系化合物薄膜的异质结制备。在生长中注意到Sb₂Te₃是可以再作为底层材料继续生长其他材料的,Bi₂Se₃和Bi₂Te₃则较难,都出现了一些底层薄膜分解,以及互扩散的现象,这些试验结果进一步帮助我们更深入的了解各个材料的物理特性,为材料异质结的制备提供重要参考。同时也发现即使是范德华外延,晶格更加匹配且结晶质量较好的衬底对上层薄膜结构和表面形貌还是有一定的影响。4.采取分子束外延（MBE）的方法,研究了在晶格和Bi₂Se₃严重失配的Si（111）衬底进行高质量Bi₂Se₃薄膜的原位制备方法和薄膜生长过程的动力学特性。在含有不饱和键的Si（111）-7x7表面,需要通过合适的钝化层对表面悬挂键进行饱和,以避免Se和Si的反应而导致薄膜缺陷增多或者形成多晶。研究了H和Bi钝化Si（111）表面分别进行Bi₂Se₃薄膜制备的生长动力学过程,总结出薄膜范德华外延的生长模式。实现具有大范围单层Bi₂Se₃台阶面的单晶样品制备,为需要用到大台面平整表面相关研究提供重要材料基础。5.利用MBE的方法,在云母衬底上制取高质量纯c轴取向的Bi₂Se₃薄膜,薄膜具有较高的结晶性和表面平整度。并在此基础上进一步试验了通过非平衡掺杂的方式在透明云母衬底上对Bi₂Se₃薄膜进行原位Sb掺杂,系统研究了不同Sb掺杂量的Bi₂Se₃薄膜在材料结构、表面形貌、电学输运、光学等方面的性质,观察到Bi₂Se₃薄膜中Sb掺杂量对材料载流子浓度和迁移率的影响关系。6.通过MBE实现在云母衬底上Bi₂Se₃/In₂Se₃超晶格的可控制备。利用反射式高能电子衍射对生长过程的原位监控以及后期高分辨率X射线衍射来对云母上制备的超晶格晶格进行分析表征,以及通过面内面外分析,观察到Bi₂Se₃和In₂Se₃在各自（00L）和（015）晶面都有一致的对称性和方向性,呈现出严格的面内及面外对应匹配关系。还研究了超晶格在透明绝缘云母衬底表面的生长动力学及超晶格的热电特性。并且最先研究了不同配置M QLs-Bi₂Se₃/N QLs-In₂Se₃超晶格与纯的Bi₂Se₃在热导上的差别,发现可以利用超晶格界面对声子的散射,有效降低材料的热导率,为层状硫系化合物材料在热电领域的应用提供了重要依据。