生物光学成像技术因具有实时、高灵敏、损伤小、操作简便等优点而被广泛的应用于基础生物研究与临床医学诊断中。近红外光学成像,能够更好的减少生物体自发荧光的干扰、提高成像的穿透深度、降低光损伤,从而成为生物光学成像的重要研究方向。近红外光学成像技术的发展离不开近红外荧光探针的支持,在常用的近红外荧光探针中,小分子荧光探针具有高的摩尔消光系数与荧光量子产率、光谱范围易于调节、分子结构易于合成与功能化修饰、良好的生物相容性等优点,一直以来受到研究人员的持续关注。然而目前所报道的小分子近红外荧光染料在种类、功能及光谱范围等方面还不能满足实际应用中的需求,并且普遍存在着光稳定性较差、水中发光猝灭等不足,因此设计并合成新的具有优异光物理性质的近红外荧光染料具有重要的研究意义。在本论文中,我们选择了近红外罗丹明染料作为研究对象。设计并合成了一系列具有优异光物理性质的罗丹明类荧光染料,对其吸收及发射光谱进行了可控的调节,并对其在分子传感与生物成像中的适用性进行了研究。最后,通过对该类近红外染料进一步的性质发掘以及各种发光成像技术的联用,实现了高灵敏性的、高准确度的生物检测与成像应用。论文的研究内容包括以下五部分:1.罗丹明类近红外荧光染料的设计合成与光谱调控使用优化后的方法设计并合成了一系列近红外发射的罗丹明类染料。通过对染料的结构拓展与光谱调控,获得了吸收与发射波长覆盖650-1000 nm区域,并具有较高的摩尔消光系数和发光量子效率的罗丹明类荧光染料。该类近红外罗丹明染料合成方法及光谱调控规律,为以后更多的近红外染料的合成提供了参考依据。2.罗丹明类近红外荧光探针的设计合成及生物成像应用研究构建了一类基于罗丹明染料的近红外荧光探针平台。使用通用的方法合成系列近红外罗丹明类荧光探针,通过光谱测试、细胞成像、活体成像等方式探讨了近红外罗丹明探针平台在分子传感、生物检测与成像中的应用可行性,为更多基于该荧光探针平台的分子合成修饰及生物应用提供了设计思路与参考依据。3.基于单分子频率上转换的近红外罗丹明探针的制备与体内甲基汞的检测成像设计并合成了一类具有单光子频率上转换发光性质的近红外罗丹明探针用于MeHg+的体检测成像。该探针(FUC-1)在Hg原子的特异性亲和作用下发生诱导开环,表现出明显的斯托克斯荧光与频率上转换发光增强。充分利用探针的近红外发光与频率上转换发光性质,可以明显的降低样品背景信号干扰,提高测试的信噪比与精确度,可以很好应用于体外、细胞内、活体内的MeHg+的高灵敏检测成像。这类具有频率上转换发光性质的探针不仅可以用于Hg2+的检测,通过结构的修饰与功能化改进,同样可以在更广泛的分子传感、生物成像与临床诊断等领域得到应用。4.基于时间分辨的比率型发光探针的合成与次氯酸根的检测成像构建了一种基于双发光团间荧光共振能量转移机理的具有时间分辨性质的发光探针用于次氯酸根(ClO-)的检测成像。所选择的能量供体为具有较长发光寿命的过渡金属铱配合物,而能量受体为对ClO-敏感的近红外罗丹明类染料。这类具有时间分辨性质的比率发光探针可以用于体外、细胞内、小鼠体内的ClO-的高灵敏检测成像。依靠发光寿命成像技术,我们可以更为准确地监测细胞内内源性ClO-或外源性ClO-变化情况。5.光稳定的上转换发光纳米复合体系的构建与体内铜离子的检测成像设计并合成一种新的近红外罗丹明类染料Rho-650,该探针在水中具有较高的近红外摩尔消光系数与荧光量子产率,并且其光稳定性相较临床使用的吲哚菁绿(ICG)有很大的提升。对Rho-650功能化修饰后得到的荧光探针Rho-650-Cu对Cu2+有很灵敏的响应,并可应用于体外与细胞内的Cu2+检测成像。通过将探针Rho-650-Cu与光谱匹配的稀土上转换发光纳米颗粒(UCNPs)复合,得到水溶性Cu2+纳米探针Rho-Cu-UCNPs,可用于细胞、小动物活体层次的Cu2+的上转换发光比率检测成像。