过渡金属氧化物由于其d电子具有复杂的电子自旋和轨道相互作用,表现出丰富的物理性质:如自旋阻挫、磁化平台、磁电耦合、磁致伸缩和磁致相变等。本文选取过渡金属铁、钴反铁磁氧化物CuFe_1-xM_xO₂（M=Mn,Co）,Na₂Co₂TeO₆和Na₅Co_15.5Te₆O₃₆作为研究对象,对其进行磁化、电极化、介电以及磁电耦合行为研究。一方面,通过本论文研究希望加深对过渡金属反铁磁氧化物复杂磁相互作用的理解;另一方面,探索和研制高性能新型反铁磁氧化物磁电耦合材料。一、介绍了铁、钴过渡金属反铁磁氧化物的研究背景和进展:三角晶格自旋阻挫CuFeO₂及其掺杂体系的晶体结构、磁结构、磁场诱导的磁化平台和磁电耦合以及离子掺杂对其磁化、介电、极化及磁电耦合行为的影响;介绍了蜂窝状晶体结构Na₂Co₂TeO₆和Na₅Co_15.5Te₆O₃₆多晶的晶体结构、磁结构、基本磁化和介电性能。二、通过温度、磁场和磁性离子(Mn³⁺和Co³⁺)掺杂等调控CuFeO₂的磁化行为、电极化行为和磁电耦合,并利用稳态磁场和脉冲强磁场实验研究磁性离子掺杂对CuFeO₂磁结构、电极化以及磁电耦合的影响。实验研究发现:少量磁性离子掺杂影响Fe³⁺之间的磁相互作用,部分释放CuFeO₂中阻挫,同时产生无序,导致磁相变临界温度向低温区域移动,磁相变临界磁场逐渐的向低磁场区域移动。少量离子掺杂使得部分4SL反铁磁基态变成反铁磁和铁电螺旋相的共存态,体系的自发电极化增强。当掺杂离子含量达到x=0.05时,反铁磁基态完全变成铁电螺旋态。最后基于双交换和超交换机制的磁弹模型,建立了CuFeO₂和Mn³⁺(Co³⁺)掺杂体系电极化和介电产生的微观机制模型。根据这个模型,很好地解释了本论文中实验所观测到的CuFeO₂以及掺杂体系的电极化和介电行为。三、采用助熔剂法首次合成了蜂窝状结构Na₂Co₂TeO₆单晶,并对其晶体结构进行表征:Na₂Co₂TeO₆属于准二维层状结构,层间由Na离子层隔开,层内是CoO₆八面体构成的蜂窝状结构。磁化研究表明:Na₂Co₂TeO₆单晶有明显的磁晶各向异性。磁场平行于c方向时,随着温度降低,在T_N1^{（14）（14）2}6 K和T_N2^{（14）（14）4} K处出现两个连续磁相变;磁场垂直于c方向时,随着温度降低,在T^⊥_N1²7 K,T^⊥_N2²0 K和T^⊥_N3⁹.5 K处出现三个磁相变。一般认为磁相变来源于磁性离子自旋重取向。电极化研究表明:在室温附近有明显介电常数变化并伴随出现介电损耗峰,说明该体系在室温附近具有电极化行为,可以作为室温介电材料。四、利用稳态磁场和脉冲强磁场对六角Na₅Co_15.5Te₆O₃₆单晶进行磁化和介电行为研究。结果表明:在4.2 K的等温磁化测量中,随着磁场增强,磁化强度在临界磁场B⁶.2 T处出现明显增强,一般认为是由磁性离子自旋翻转引起的,伴随这一相变,出现明显的磁热现象。磁化强度与时间弛豫研究表明:在温度为2 K时,该体系具有非常长的磁弛豫时间,这表明体系中的磁矩在低温下几乎被完全钉扎。利用PPMS和阻抗分析仪对其低温介电行为进行研究,发现该体系在低温下表现出一定的磁介电效应。