我们利用格林函数方法研究了由磁性材料邻近耦合效应诱导的具有Rashba自旋轨道耦合以及本征自旋轨道耦合的二维六角晶格的长程Ruderman-KittelKasuya-Yosida(RKKY)相互作用。由于Rashba自旋轨道耦合破坏了结构反演对称性,使得自旋相互作用除了传统的海森堡相互作用,伊辛项相互作用,以及在拓扑绝缘体和拓扑半金属中展示的Dzyaloshinskii-Moria(DM)型相互作用外,还多了类—DM型的面内自旋—自旋相互作用。当费米能位于由自旋轨道耦合打开的能隙中时,RKKY相互作用退化为Bloembergen-Rowland(BR)相互作用,BR相互作用不像RKKY相互作用那样振荡衰减,而是呈现短程指数衰减的特征。本文的内容以及结构组织如下:第一章,介绍了二维材料中磁性的来源、反常霍尔效应的发展和基本机制,最后给出本论文主要研究内容和研究意义。第二章,介绍了如何利用紧束缚方法构建低能有效哈密顿量,并用于构建石墨烯的二维六角晶格,此外还介绍了Rashba自旋轨道耦合相互作用。第三章,详细推导了电子和局域磁矩耦合的s-d相互作用以及二维、三维电子气中利用传统二阶微扰理论推导RKKY相互作用及其程函数的表达式,利用格林函数技术在相互作用绘景中的二次量子化表象给出RKKY相互作用的通用表达式。第四章,利用格林函数方法计算了由邻近效应提供的拥有Rashba自旋轨道耦合相互作用以及本征自旋轨道耦合的石墨烯上的RKKY相互作用,计算得到了不同类型的相互作用积分表达式,并对其进行了数值分析。我们还计算了无载流子情形下的BR相互作用,讨论了RKKY相互作用转变为BR相互作用对于反铁磁绝缘体邻近的石墨烯上反常霍尔效应的影响。以及对铁磁体邻近耦合石墨烯界面DM相互作用起源的解释。第五章,对本文研究内容的简要概括,对未来RKKY相互作用在量子信息以及量子计算等方面的应用做了展望。