氢键与卤键具有类似的方向性和强度,其在三维晶体工程、有机半导体器件以及超分子自组装等领域得到广泛而深入的研究。超分子自组装是分子基元通过各种非共价相互作用形成有序结构体的过程,因此,合理的设计功能化构筑基元并系统深入探究功能基元间氢键和卤键作用对分子组装结构的构筑与调控具有重要的意义。本论文利用扫描隧道显微镜(STM)和原子力显微镜(AFM)研究了具有电子供体和受体单元的吡咯并吡咯二酮-噻吩类衍生物(TDPP-C16)分子的最优构象,自组装过程中分子间作用力的位点及其对薄膜形貌影响的微观机制。合成了具有柔性链的双官能团体系(卤键、氢键)的水杨酸衍生物(5-BHBA和5-BHDB),采用STM系统研究了具有氢键和卤键供体的分子体系在液/固界面二维自组装结构的构筑及调控规律。本学位论文的主要研究工作和创新性结果如下:(1)通过STM实验和密度泛函理论(DFT)计算研究了TDPP-C16分子在不同溶剂(1-辛苯、1-辛酸以及正十六烷)中的自组装结构,结果发现该分子在不同溶剂中均形成之字形的分子排列。进一步分析得知TDPP-C16分子的排列方式呈现纯手性(R型,S型)的自组装纳米结构。在同一条垅中相邻分子间H…O═C双氢键诱导了自组装结构的形成。此外,利用AFM观察了TDPP-C16分子在云母基底上的薄膜呈颗粒状聚集体,也表明了分子间较强的弱键相互作用。STM的实验结果以及DFT计算模拟结果均表明DPP单元中的羰基和噻吩环上的氢原子形成的氢键诱导了之字型构象的形成。该工作确定了TDPP衍生物分子间相互作用力的位点,为未来晶体工程领域以及在有机半导体器件领域寻找开发特定功能的有机分子材料提供了新的科学实验依据和方法。(2)采用STM研究了双官能团体系——水杨酸衍生物(5-BHBA)在两种不同溶剂(1-辛酸/正十六烷)中的自组装结构。发现通过调整5-BHBA分子在1-辛酸和正十六烷溶溶剂中的浓度,可以获得不同的分子排列结构。在1-辛酸/石墨界面,分子在不同的溶液浓度下可以形成四种(T型、错位型、唇状以及交替状结构)不同的自组装排列方式。分子间Br…Br type-I类型的卤-卤相互作用、C=O…Br…H三角结构、-OH…Br和H…C=O氢键,以及-COOH…HOOC-之间的双氢键之间的协同和竞争导致了5-BHBA分子形成了多样化的自组装形貌。在饱和的5-BHBA十六烷溶液中未观察到分子的自组装结构,而在中等浓度以及较低的浓度下可观察到分子分别以密堆积和疏堆积的V字线型结构排列。十六烷溶剂分子的共吸附及分子间-COOH…HOOC-氢键诱导了二聚体结构的形成。结果表明卤键与氢键的协同与竞争的关系最终决定了5-BHBA分子在二维固/液界面的自组装结构形成与变化。(3)设计合成了含溴取代基的的水杨酸甲酯衍生物(5-BHDB)分子,该分子中含有卤键的给体(-Br)和受体(-COO-)基团。利用STM研究了5-BHDB在1-辛苯、十五烷、十四烷、癸烷等溶剂中的自组装结构。实验结果表明,在以上几种溶剂配制的高浓度溶液中,5-BHDB分子在固/液界面均会形成热力学稳定的双条垅线型自组装结构。此外,在低浓度的烷烃溶剂中,5-BHDB分子形成动力学稳定的共吸附结构。5-BHDB在自组装过程中主要以二聚体,三聚体,四聚体的形式出现。这些结构的形成主要是由于卤素溴原子顶端正电位的σ-hole与具有负电势的酯基官能团之间形成了较强的C=O…Br卤键。