在凝聚态物理中,由于多种相互作用的相互竞争,磁性阻挫材料表现出新颖的物理现象和性质,如自旋液体、自旋冰、拓扑霍尔效应、大的电子-电子相互作用和量子临界现象等。正是由于这些新颖的物理性质,使得磁性阻挫材料受到人们的广泛关注。本论文主要研究具有三角晶格的磁性阻挫材料,包括过渡金属间化合物α-Co5Ge3、CoSb和Ni1.8Ge,以及EuCd2Sb2的磁性和电输运性质。根据上面内容,本论文分为以下六个部分:第一章,我们首先介绍阻挫的概念,以及磁性阻挫材料中发现的一些新颖的物理现象及其机理。然后,介绍在磁性阻挫材料中的电输运性质和磁性质,如反常霍尔效应、拓扑霍尔效应和短程磁有序。最后,介绍重费米子材料的发现以及在该类材料中所表现出的一些新颖的物理性质。第二章,我们主要介绍与本论文内容相关的实验方法及原理,包括样品的制备、结构和成分的表征以及物性的测量(磁性、电输运和热输运的测量)及其基本原理。第三章,我们介绍三角晶格材料α-Co5Ge3的磁性和反常霍尔效应的研究。α-Co5Ge3单晶的磁性测量表明其是一种铁磁的材料,铁磁转变温度在aa方向和bc方向分别为45和50 K。磁阻测量显示α-Co5Ge3具有负的磁阻,并且在铁磁转变温度附近具有最大的磁阻值。反常霍尔效应的研究表明,在温度为30～50 K时,内禀机制起主要作用。而在温度为2～25 K时,反常霍尔电阻率与纵向电阻率呈现系数为6.4的指数关系(pxyA∝ρxx6.4),这不能被传统的反常霍尔效应的理论所解释,需要进一步的理论和实验研究。第四章,我们通过气相输运法合成高质量的CoSb单晶,并对其磁和电输运性质进行了研究。磁性测量结果表明标准化学配比的CoSb是一种非磁的金属。而通常样品所表现出的顺磁性是由间隙Co导致的。对电输运测量的结果进行分析,我们发现间隙Co原子并没有对电输运性质产生大的影响。同时,在CoSb中我们还观察到非常低的磁阻,这使得该材料具有应用于在强磁场下使用的电子器件中的潜力。第五章,我们合成了 Ni1.8Ge单晶,并对其磁和电输运性质进行了研究。实验结果显示Ni1.8Ge是具有明显磁各向异性的金属,并且具有亚铁磁的相互作用。低温下的电阻-温度依赖关系和磁阻揭示了在Ni1.8Ge中电子-磁子散射在电输运中起到了不可忽视的作用。由于未观察到长程的磁有序,这可能是由短程磁有序引起的。我们的研究表明,在Ni1.8Ge中几何阻挫抑制了长程磁有序的形成,并且短程磁有序对电输运产生了重要的影响。第六章,我们研究了 EuCd2Sb2的磁和电输运的性质。磁性测量表明EuCd2Sb2在7.3 K存在反铁磁转变并且在Eu原子上的自旋具有非共面或非共线的反铁磁排布结构。电输运测量表明在低温下EuCd2Sb2存在一个类似于Kondo效应的电阻-温度依赖关系。各向异性且复杂的磁阻表明EuCd2Sb2具有复杂的磁结构。在霍尔测量中EuCd2Sb2表现出拓扑霍尔效应的行为,这也表明Eu原子上的自旋具有非共面或非共线的排布结构。比热的研究发现在0 Tesla和2Tesla下,电子有效质量分别是310mJ/mol·K2和522 mJ/mol·K2,这表明EuCd2Sb2是重费米子材料中的一员。通过Kadowaki-Woods(KW)关系(rKW=A/γ2),可以计算出rKW的值为51.3μΩcm K2 mol2/J2,比其他经典的重费米子材料大一个数量级,也比其他Eu基重费米子材料大100倍。对于这么大的rKW值的来源,我们认为有两种可能的解释:一种是由于几何磁阻挫造成的;另一种是由于量子临界行为引起的。