自旋轨道耦合作用是一种由粒子的自旋与轨道动量的相互作用引起的轨道能级上的“细小”分裂。该作用可以诱导出许多新奇的量子现象,如拓扑表面态,Rashba效应,p波超导体等。在压力作用下,许多具有强自旋轨道耦合作用的材料,如二元拓扑绝缘体,Rashba化合物等,出现了更多的新奇的物理性质,如超导电性,拓扑电子结构相变等,更为重要的是很多物性都具有非常巨大的潜在应用价值。本论文利用高压实验技术,系统的研究了几种不同类型的强自旋轨道耦合材料在高压下的结构和物理性质。具体材料体系有拓扑非平庸材料（如狄拉克半金属、拓扑绝缘体）,以及拓扑平庸的材料（如宽禁带半导体）等。取得了如下创新性研究成果:（一）对3D狄拉克半金属Cd₃As₂的单晶进行了高压下的结构和物性研究。发现在低压力下,Cd₃As₂单晶电阻呈现出不同于常压金属态的绝缘体行为。在8.5 GPa时,出现了T_c≈2.0 K的超导电性,随着压力进一步增加到21.3 GPa时T_c增加到4.0 K。同时发现超导转变温度在测得的最高压力前表现出异常恒定的数值。同步辐射x射线衍射表明晶体结构在3.5 GPa左右存在一个结构相变。压力下T_c保持恒定的数值和H_c2—温度线性依赖,以及晶体结构对称性的降低,说明Cd₃As₂在高压下观察到的超导电性可能具有拓扑性。上述实验结果表明Cd₃As₂是一个拓扑超导体的候选者。（二）三维四元拓扑绝缘体BiSbTeSe₂相对与二元拓扑绝缘体,具有能隙更大的体态,是研究拓扑绝缘体的一个理想材料。通过对三维四元拓扑绝缘体BiSbTeSe₂的电阻、霍尔系数和晶体结构的高压测量,发现了压力诱导的两个超导相。第一个超导相SC I出现在3.2 GPa,T_c约为7 K,随着压力变化表现出基本恒定的数值,并且表现出了超导的各向异性。当压力继续增加时,在9.6 GPa出现第二个超导相SC II。该超导相在13.3 GPa时出现了明显的超导跃迁,T_c为2.7 K。SC II相T_c的最大值出现在22 GPa,约为9.5 K。原位高压同步辐射XRD分别在10.1 GPa和28.2 GPa观察到了两种晶体结构相变。霍尔系数测量表明,载流子的类型在3.2 GPa左右时（即SC I相出现）由n型转变为p型,在9.6 GPa（第一次晶体结构相变）变回n型。最终,我们得到了BiSbTeSe₂在50.5 GPa压力作用内的压力温度相图。（三）进行了宽禁带半导体Sb₂S₃和Bi₂S₃高压下的和结构物性研究。结果显示Sb₂S₃单晶在17 GPa和35 GPa观察到了压力诱导的绝缘体-金属相变和超导相变。同时确认Sb₂S₃在5 GPa左右既没有压力诱导的二阶等结构相变,也没有的电子拓扑相变。此外发现超导转变温度与压力成正比,在98.9 GPa时,T_c达到最高值9.7 K。同步辐射x射线衍射结果表明在15.1 GPa左右有晶体结构相变,这与绝缘体-金属相变的发生压力相对应。电阻在18.1 GPa左右的“V”形变化可能意味着发生了电子拓扑相变。通过对Bi₂S₃的高压电学及晶体结构的研究,发现在压力的作用下分别在18.7 GPa和49.4 GPa发生了绝缘体-金属转变和超导转变。超导转变温度与压力成正比,在152 GPa时,达到10.9 K。同步辐射x射线衍射结果表明,在55.2GPa以内没有发生晶体结构相变。经过理论计算,推测绝缘体-金属相变可能是由于层间滑移和S缺位引起的。