纳米机械系统是纳米尺度的机械系统，这类机械系统通常具有超高的品质因子、超高的振动频率，超轻的质量，超高的灵敏度等优秀的性质。此外，基于它的众多优点，纳米机械系统可以用于力和质量的探测。一些超小型的纳米探测器在原子尺度有很好的空间分辨率，并且其振动频率可以达到THz的量级。此外，如果该纳米机械系统与其它小量子系统(如原子、电子、量子点、单电子晶体管、纳米金属颗粒等)耦合起来，该耦合系统还可用于研究许多奇异的量子现象和检测基本的量子定律。特别的，当一个纳米机械振子和一个光学谐振腔耦合的时候，便形成了目前研究比较热门的纳米光机械系统。基于纳米光机械系统的超快、超慢光以及非线性效应越来越多的应用在量子通讯、全光开关、信息传输等领域。可以断言，随着纳米光机械系统的广泛应用，量子力学在今后将会逐渐渗透到其他学科。运用量子力学和光学的原理，本论文介绍了五个具有代表性的纳米光机械系统，他们分别是：(1)最小的纳米光机械系统—量子点；(2)单量子点与纳米机械振子的耦合系统；(3)单量子点和纳米光子晶体耦合系统；(4)碳纳米管系统；(5)量子点和DNA分子的耦合系统。利用海森堡-郎之万方程、波恩马科夫近似等量子力学理论，通过计算机模拟，论文讨论了这五个纳米光机械系统的光学传播特性，在理论上解决了一些在纳米机械系统中遇到的问题和存在的缺陷，提出了一些新的光学器件，用于探索纳米光机械系统的基本性质，并把这些器件渗透到生物、化学等其他交叉领域。本文的主要结构如下：论文的第一章是绪论，主要介绍了纳米光机械系统的基本概念、制备、应用及其发展历史，包括它在当今研究领域占有的地位。第二章介绍了求解纳米光机械系统常用到的三种方法。分别是海森堡方程求解方法，密度矩阵理论和量子海森堡-朗之万方程。证明了无论用这三种理论方法中的哪一种都可以得到纳米光机械系统的光学传播特性。因此，熟练掌握这三种方法可以快速简便的求解纳米光机械系统的哈密顿方程，进而预测新材料和新性质。第三章介绍了最小的纳米光机械系统—量子点，在双光探测下产生的光学传播特性。量子点作为固态纳米材料在很早的时候就被人们研究过。本论文是第一次指出量子点可以看做最小的纳米光机械系统，它具有其生产成本低、生产技术成熟、便于小型化等优点。论文的第四章研究了纳米机械振子和量子点耦合系统中的光学传播特性，在理论上提出了四个实用型光学器件，如：快慢光转换器，纳米光克尔开关、高灵敏光学质谱仪和纳米存光装置。此外本章首次介绍了如何通过pump-probe技术精确测量纳米机械振子振动频率及其与量子点的耦合常数的方法。论文的第五章研究了量子点与纳米光子晶体腔耦合系统的光学传播特性。根据pump-probe技术，在理论上提出了一个双光控制的量子光学晶体管，与传统的电学晶体管相比，此量子光学晶体管的灵敏度高、能耗低、成本低。第六章介绍了碳纳米管系统的光传播特性。在理论上证明了在两束光的控制下，碳纳米管的振动与其内部局域激子的相互作用仍然可以看做纳米光机械系统。碳纳米管在线性领域可以用于称量纳米级颗粒的质量。由于碳管的质量轻，体积小，品质因数高，因此基于碳纳米管的质谱仪灵敏度也非常高；在非线性领域，论文提出了基于碳纳米管的量子光克尔调节器。此外本章最后还提出了几种基于自旋和碳纳米管耦合系统的量子光学器件，如单光子路由器和量子微波晶体管。第七章介绍了量子点和DNA分子的耦合系统。在本章中DNA分子被处理成经典的谐振子模型。论文证明了在一束强泵浦光的照射下，当信号光穿过整个耦合系统时，透射的信号光被放大。此现象为临床医学理论做出了贡献，如生物医学成像、DNA分子标示，和癌细胞探测技术等。本文是在以下基金的资助下完成的：国家自然科学基金(No.10774101和No.10974133)，教育部高校博士点基金，教育部博士研究生学术新人奖基金，以及国家优秀博士论文培育基金。