从总体上看我国的社会环境是和谐的,但在一定范围内还存在不同程度的矛盾和纠纷。中国传统的文化意识是“和为贵”,以调解方式解决纠纷历来就受到重视。行政调解作为调解体系中的一种纠纷解决方式,与行政诉讼机制和其他非诉讼纠纷解决机制相比有着不可比拟的优势。但在我国目前的法律法规及行政规章中还规定比较少,只存在些零散的规定,散布在一些行政规章之中,而且我国现有的行政调解规定还有很多缺陷,尤其是在适用范围上过于狭窄,同时缺乏具体的调解程序,行政调解协议的法律效力也得不到有关部门的认可等等,使得这方面的立法不完善、不统一。因此,行政调解在中国具有相当大发展潜力,完善我国行政调解立法能够契合我国社会发展需要。本文通过解读国外行政调解方面的成功立法经验考察,如法国的调解专员制度、日本的行政调解制度,美国调解调停制度等等,为解决我国行政调解困境,完善相关立法提供有利的成功经验。同时也对我国行政调解的现实困境进行了反思,并就如何进行完善提出了自己的若干建议：给行政调解准确定位,从思想观念上重视行政调解；明确行政调解的适用范围,将部分行政纠纷纳入到行政调解的范围；科学确立行政调解程序,使得行政调解在科学合理的程序框架内运行,避免行政调解的随意化；明确行政调解协议的法律效力,给予行政调解一定的法律效力,尽量的节约有限的诉讼成本,同时确立行政调解在社会中的威信；建立行政调解与其他纠纷解决机制的有效衔接机制和救济机制,使得社会纠纷得到最大程度的救济,为构建社会和谐社会创建一个有力的保障。