拓扑绝缘体具有与普通绝缘体一样的体能隙,同时在能隙中存在拓扑保护的边界态。边界态受时间反演对称性保护,其自旋和动量相互绑定形成螺旋或手征结构,因而对时间反演不变微扰具有很强的鲁棒性。拓扑绝缘体的独特性质使得它们在自旋电子学和拓扑量子计算中具有很大的应用前景。本文使用格林函数和线性响应理论对拓扑系统中的掺杂效应进行了理论研究,主要包括以下内容:在第一章中,我们首先简要地介绍了拓扑绝缘体的拓扑性质和发展过程,然后着重介绍了本文使用的方法:杂质散射理论和线性响应理论。对于掺杂系统,由于自能的引入,体系的本征问题一般不可严格求解。此时,传统的酒保公式不能很好地处理掺杂系统下的输运问题。在本章的第四节,我们从新的角度推导了Kubo-Streda公式,并将其推广到了有限频的情况。Kubo-Streda公式用格林函数表示,能够较好地处理杂质散射问题,因而在处理掺杂系统的拓扑输运问题中具有很大的优势。这种方法主要应用在本文的第四和第五章。在第二章中,利用格林函数的运动方程,我们研究了拓扑表面态和STM(扫描隧道显微镜)耦合的安德森杂质之间的相互作用。通过研究发现,当安德森杂质与STM耦合时,杂质和拓扑表面态之间的相互作用可以在拓扑表面诱导隧穿共振和近藤共振,并且,通过调节杂质能级,隧穿共振峰可以调到狄拉克点处,形成狄拉克点共振。当温度低于近藤温度时,通过调节STM的费米能,可以将近藤峰严格调到狄拉克点处,极大地增强狄拉克点共振。STM解耦合的安德森杂质则不能诱导狄拉克点共振,并且其近藤峰在狄拉克点处也是完全抑制的。在第三章中,我们研究拓扑表面态的狄拉克电子在圆偏振光照射下对点状杂质的散射效应。由于拓扑表面态能谱被重组,狄拉克电子对非磁性杂质的背散射通道被打开,于是狄拉克电子自旋态密度在实空间呈现有趣的Friedel振荡。圆偏正光可以打开拓扑表面态的能隙,而杂质散射和光照效应之间的相互作用则在能隙内诱导束缚态,这些效应显著地改变狄拉克电子谱。除此之外,我们还详细讨论了不同机制(共振光和非共振光)下狄拉克电子杂质散射效应的特点。杂质散射对圆偏正光的参数非常敏感,因此,含时驱动提供了一种调制拓扑表面电子性质的可能性。在第四章中,我们研究有限浓度磁性杂质在拓扑绝缘体表面诱导的反常霍尔效应。研究发现,拓扑非平庸和拓扑平庸两种机制同时对霍尔电导有贡献。拓扑非平庸机制打开表面态的能隙,导致半整数量子化霍尔平台e2/2h的出现,而拓扑平庸机制通过能隙填充效应修正量子化霍尔平台。静电势虽然参与能隙填充过程,但是其本身不能导致反常霍尔电导的出现。然而,通过重整局域态的能量位置,它可以破坏霍尔电导的对称分布。在第五章中,我们研究了磁掺杂狄拉克半金属中的杂质散射效应。研究发现,由于时间反演对称性的破缺,一个狄拉克点可以分裂成一对外尔点,导致狄拉克半金属到外尔半金属的拓扑相变。两个外尔点之间的布里渊区截面的陈数是量子化的,于是,开放费米弧出现在表面布里渊区,将外尔点的投影连接起来。除了将外尔点分开,杂质散射还会引入一些局域态到体系中,从而修正贝利曲率和反常霍尔电导。虽然静电势与狄拉克半金属的拓扑相变无关,但是它可以通过重新分配局域态的能量位置修正贝利曲率和反常霍尔电导。在本文的最后一章,我们做了一个简单的总结和展望。