目前我国已经基本建立起了以主板市场、中小板及创业板市场、全国中小企业股份转让系统、区域性股权交易中心为主要组成部分的多层次资本市场体系,各层级的资本市场相互补充,在促进资源优化配置、帮助企业融资和促进我国产业结构升级方面都有着十分重要的作用。但随着我国资本市场的进一步发展,我国的融资结构也在不断发生变化,直接融资比重的提高推动了金融脱媒的步伐,商业银行依靠存贷利差的盈利方式受到冲击,盈利能力下降,危及商业银行的传统地位。城市商业银行由于自身规模较小、创新能力较低,业务种类单一等问题,一直以来较多的依赖于存贷款业务,存贷利差占利润总额的比重要远高于其他国有银行和股份制商业银行,因而直接融资的快速发展进一步分流了城市商业银行的利润,在与大型银行的竞争中处于劣势。资本市场的发展在给城市商业银行带来冲击的同时也为其迎来了新的发展机会,城市商业银行在利润收窄的压力下不得不加快业务创新的步伐,通过上市的方式可以有效提高城市商业银行的资本充足率并改善资产结构,资本市场的发展也为城市商业银行管控风险提供了新的途径和方式。我国城市商业银行在多层次资本市场发展的背景下应该抓住发展的机会,努力开拓自身的业务领域,提高服务的质量和水平,在日益激烈的同业竞争中获得长足的发展。首先要坚持差异化的发展战略,走出一条具有城市商业银行自身特色的发展之路,不同规模层次的城市商业银行也要清晰各自的定位,走差异化的发展路线;其次要加快业务转型的步伐,拓展零售业务领域;注重同业间的合作,抱团取暖以提高整体竞争力;还需重视人才的培养和引进,公司治理结构的完善,及时把握市场和政府动向,抢占市场先机,以提高城市商业银行在银行业金融机构中的竞争力。