超硬材料以高硬度、高强度和耐腐蚀等优异性能被广泛应用于工程机械、刀刃模具、海洋船舶和航空航天等诸多领域。但随着人类对深海和航空等领域的不断深入探索,传统超硬材料如金刚石、立方氮化硼等由于其耐热性不高、化学稳定性差缺陷极大限制了它们在工程应用范围。所以亟待多功能新型超硬材料探索。利用过渡金属掺入B、C、N和O等轻元素中形成的过渡金属化合物,可能成为具有金属性、超导性等多功能的新型超硬材料。本文基于第一性原理计算,以过渡金属硼化物TMB_3+x（TM=W、Mo）、TMB₁₂（TM=Sc、Y、Zr和Hf）和过渡金属氧化物VO₂为对象,对其结构稳定性,力学行为和相变特性进行系统的研究。并阐述其微观机理。为研究及实际合成过渡金属化合物提供相关理论依据。（1）对于TMB_3+x（TM=W、Mo）,本文基于hP16结构的TMB₃建立1×2×3和2×2×1超胞,调整金属及硼对于Wyckoff 2b及2c位置的占据成分,构建多种TMB_3+x结构形成体系。通过第一性原理计算,发现随着硼逐渐的占据金属层的2b位置时,在x≤2时,其结构稳定性及力学性质均逐渐加强,且在x=2时,力学性质最佳。更重要的是,本文构建的MoB₅结构,在其硼占据2b位置50%时,成为Mo-B体系中新的热力学基态相。同时,还分析了高硼化物的超硬机理,硼的部分占据金属层中2b位置时,使得硼层之间的硼与新占据金属层之间的硼形成B-B共价键,增加c方向的不可压缩性,形成更加牢固的共价网络结构,从而提高了结构稳定性和力学性质。也为实际合成TMB_3+x化合物时,过渡金属TM与硼合理的原始材料比例提供理论依据,以到达最佳的机械性能。（2）过渡金属十二硼化物TMB₁₂（TM=Sc、Y、Zr和Hf）是一类多功能材料,但其精确的微观结构并未完全确定,这严重制约了对其结构和性能关系的理解。本文通过第一性原理计算,发现四方tI26结构才是TMB₁₂的热力学基态结构,而之前认可的立方cF52结构实际上是TMB₁₂的亚稳相或者高温相。其中ZrB₁₂和HfB₁₂分别在约350K和450K温度诱导下发生相变,从tI26结构相变为cF52。tI26结构由于每个金属原子都由24个硼原子形成的立方八面体硼笼围绕,从而形成了刚性的共价网络结构。这种结构的特殊性产生了异常的功能,即高硬度,低密度和良好导电性等多功能性并存,有望应用于机加工工具和轻量级保护涂层。此外还阐明其相对稳定性和机械性能的电子起源。（3）过渡金属氧化物VO₂的金属-绝缘体相变因其重要的应用价值而引起了许多的关注与研究。尽管其单斜结构之前被认为是绝缘状态,但一些实验最近观察到了单斜结构的金属态。在这里,本文使用一种改进的方法,结合第一原理计算与轨道偏置电势,即LDA+ΔV方法,重现了VO₂不同结构相的正确稳定性顺序和电子结构。我们发现一个铁磁性单斜金属很可能是实验观察到的神秘亚稳态相。此外,发现VO₂单斜结构相变为金红石结构时伴随了同构体的绝缘体-金属的电子态相变。这些结果不仅解释了VO₂实验观察到的单斜金属态及解耦了VO₂结构相变和电子态相变,而且为其他强关联d电子系统中的金属-绝缘体相变提供了合理的解释。