近年来,近似计算成为一个很有前景的计算机体系结构设计方式,通过牺牲应用的计算精度换取性能和效率。而这些应用本身具有较高的容错性,比如机器视觉,信号处理等与人类感知相关的应用。在近似计算中,误差控制是一个十分重要的问题。我们必须对误差进行合理的控制,使计算结果满足用户对应用程序精准度的要求,同时极大的减少计算时间以及计算功耗。为了在功耗以及计算精度之前作平衡,先前的研究提出了一种混合式的近似结算架构,这种架构包含了一个经过充分训练的分类器(误差预测器)和一个高效能的加速器。分类器通过预测数据相应的误差来选择用加速器对数据进行近似计算或者用CPU对数据进行精准计算。然而,这种混合式的近似计算结构使用着一种传统的一次性(one-pass)的训练方法,并没有针对混合式架构进行相应的优化。所以,我们提出了一种多次迭代的训练框架,使用迭代训练使加速器和分类器能够更好的协作,在数据的选择和近似结果的精度上有更好的表现。此外,我们在迭代训练的基础上提出一种动态调整预测阈值的算法,在满足精度要求下使更多的数据被加速器所使用,更大程度的激活加速器已获得更大的能效收益。最后,基于上述框架,我们提出一种高效的搜索算法以寻找最优的迭代器和加速器的拓扑结构,以减少在迭代器和加速器上的功耗和硬件成本。实验结果表明在近似计算精度以及加速器激活率上,我们的方法相比原有的一次性训练方法具有明显优势。