本文主要研究核壳结构颗粒复合材料体系的有效非线性光学性质，我们的理论计算和数值模拟结果均证明可以通过调节体系壳层材料的性质，颗粒的微观几何结构（带壳颗粒的壳层厚度和颗粒的形状）以及组分浓度等手段来实现体系有效非线性的增强及对表面等离子体效应进行调控，为制备强非线性的复合材料提供了理论指导。本文的主要工作如下： 第一章，我们对复合材料的非线性物理性质研究背景和现状做一个广泛的介绍和概述。并简要的介绍我们的研究模型和方法。 第二章，我们研究了包裹各向异性壳层的带壳颗粒的特性。在球坐标下，壳层材料具有对角化的矩阵介电函数形式。与壳层为各向同性的情形相比，当各向异性材料在不同方向上的各向异性比增大时，核内的电场将增强。如果核内材料本身具有非线性极化率，各向异性壳层引起的核内电场增强可以进一步增强有效非线性响应。对于金属核，表面等离子谐振频率可以通过壳层材料各向异性程度和壳层厚度来调节。 第三章，我们研究了在由带壳椭球颗粒无规分布在线性介电基质而构成的复合材料中，二次谐波效应增强的机理。核是具有非线性二次谐波极化率的介电材料。壳层材料是具有线性极化率的金属。我们推导出与局域场相关的有效二次谐波极化率的表达式。数值计算表明，对于特定的频率，单位体积非线性材料的有效二次谐波响应得到增强。对于带壳椭球颗粒，我们可以通过核壳结构和颗粒的形状来调节二次谐波响应。通过选择合适的材料参数、核壳组分比、颗粒退极化因子等可以获得有效非线性响应的增强。 第四章，我们研究了带壳颗粒的几何结构对复合材料的介电特性的影响。稀释的带壳椭球颗粒无规分布在线性介电基质中，颗粒具有介电核和金属壳。我们推导出复合材料与颗粒形状相关的线性部分共振条件。在此条件下，内核特性可以被拓展到外部壳层。当内核为非线性材料时，在线性部分共振条件下，复合材料的非线性响应得到增强。为了获得部分共振条件，金属壳层的频率需远远偏离等离子体频率。这表明非线性响应的增强同样可以通过调节材料的几何结构来实现。 第五章，我们对本文工作做了概括和总结，并且对有待进一步开展的工作进行了展望。