随着商业化氮化镓(GaN)基发光二极管(LED)、激光器(LD)和高电子迁移率晶体管(HEMT)的相继推出,性能卓越的GaN基器件引起了广泛的关注。然而,过高的成本和大功率器件的技术瓶颈阻碍了GaN基光电子器件的产业化进程。由于GaN体材料的缺失,GaN基光电子器件只能在异质衬底上生长。考虑到Si衬底的众多优点,采用Si作为衬底是降低GaN基光电子器件成本和开发新型大功率器件的有效途径。然而,与蓝宝石衬底和碳化硅衬底相比,在Si衬底上生长高质量的GaN基材料较为困难：首先,GaN在高温下易同Si发生剧烈的合金反应从而腐蚀衬底和外延层；其次,由于GaN与Si衬底大的晶格失配和热失配,GaN外延材料存在缺陷密度高、易龟裂等问题。针对上述问题,本文系统地探讨和研究了Si衬底上GaN外延层的MOCVD生长工艺,主要研究内容如下：首先,研究了Si衬底的前期处理工艺对GaN外延层后续生长的影响,特别是对高温预铺铝工艺和氮化铝(AlN)缓冲层的生长工艺进行了优化研究。结果表明：Si衬底的清洗和高温烘焙工艺对衬底的表面形貌有显著的影响,并影响到随后AlN缓冲层的生长；高温预铺铝的时间不仅会影响衬底表面氮化的抑制效果,而且影响后续AlN缓冲层生长的均匀性；AlN缓冲层生长工艺直接影响到Si和Ga的隔离效果和GaN外延层的生长质量,因此对该工艺进行了优化。其次,研究了三类应变缓冲层的设计与优化,探索它们对GaN外延层张应力的弛豫作用和穿透位错消除作用的影响。为了有效地消除GaN外延层中的张应力,采用低温氮化铝(LT-AIN)成核层和若干LT-AIN插入层的应变缓冲层设计技术,通过对插入层的层数、厚度和生长温度的优化,实现了厚度超过1.5μm无裂纹的外延层生长,但外延层晶体质量还有待提高；采用较厚的高温(HT) AlN缓冲层结合组分连续渐变的AlxGa1-xN插入层的设计,通过对HT-AIN/Si(111)模板的优化(例如AlN厚度和生长Ⅴ/Ⅲ比),及对AlxGa1-xN插入层的组分渐变方式(线性和非线性)、渐变速率(生长速率)和厚度的优化,发现生长较薄的、非线性的AlxGa1-xN组分连续渐变层就可以有效地消除张应力和位错密度,生长出超过1.5μm无裂纹、高质量的GaN外延层；尝试了几种含超晶格结构的应变缓冲层设计,方案新颖独特,但是在实验中,因无法保证超晶格的界面陡峭性,未能显示出它在消除应力和位错上的能力。最后,在获得高质量GaN外延层的基础上,生长出AlGaN/GaN异质结,并考察了AlGaN垒层厚度、异质界面粗糙度等因素对异质结二维电子气(面密度和迁移率)的影响。