20世纪20年代初,中国经历了一场联邦主义的尝试。在部分联邦主义者的宣传下,国内兴起了一股联邦主义的思潮,部分学者和政治家一起在中国以“联省自治”的方式开始了联邦制在中国的第一次实践。联省自治运动在当时被人们寄予厚望,甚至被授予了解决中国几千年来中央集权专制的历史问题和当时中国军阀混战的现实问题等艰巨的使命。当时的中国经历了清末的腐败和外国帝国主义的蹂躏,辛亥革命的果实又落入袁世凯的手中,在袁世凯复辟帝制倒台后,中国又陷入了军阀混战的局面,部分学者把种种原因归结到中央集权的弊端上,寄希望于以美国联邦制为蓝图在中国走上地方自治的态度,一时间,联邦主义在中国受到了学者和政客们的关注和追捧。联省自治自湖南省提出“湘人治湘”的口号后,迅速影响了整个中国的地方军阀,各省纷纷提出“自治”的口号,许多省成立了制宪委员会并开始实施省宪法草案的制定,湖南省的《湖南省宪法》还得以付诸实践。当时人们实施联省自治都有着各自的目的,学者和民众希望联省自治能够为中国带来自由和民主,地方军阀们希望有的希望联省自治能够带来自己统治区的和平和稳定,有的则以联省自治为手段实现地方自治,摆脱中央政府的干预和控制。随着联省自治运动的开展,联邦制与中国的国情之间的矛盾也逐渐凸显。最终,联省自治运动未能如人们所愿,随着1923年曹锟政府宣布民国法统的统一而悄悄的退出了历史的舞台,被人们所赋予的众多使命都未能完成。联省自治运动虽然最终被人们放弃了,但当时的联邦主义思潮在国内引起了很大的反响,在这一时期中国的联邦主义思潮,有着自己的特点,它针对当时军阀混战而承载了国家统一的希望,有着大量国内外学者参与的政治环境。联省自治运动失败的原因,不是因为部分学者所说的联省自治是一次军阀们的虚假民主,不是因为联邦制本身有什么缺陷,而是因为在当时的中国,联邦主义的传播还不够广泛和彻底,人们对于联邦制的研究也还不够深入,中国本身长期以来单一制大一统的思想的长期影响,使得在中国人民还没有做好迎接联邦制的准备,而当时内战连年的政治环境诱发了联省自治运动,却又给联省自治运动加上过于沉重的负担,对于联省自治过于急切的要求最终导致了人们对联邦制的抛弃。中国的联邦主义未能承载起地方分权、国家统一、消灭党派斗争这一重大的历史任务。