西汉时期,“北边”郡以太守作为一郡的最高军事长官,并划分若干防区设立部都尉。另外,还设有农都尉、属国都尉两个较为独立的领兵系统。东汉时期,除了上述郡级军事领导机构外,东汉政府又设立了度辽将军、使匈奴中郎将、护乌桓校尉和护羌校尉四个军事领护机构。这使得“北边”郡拥有了远比内郡复杂的军事领导制度,其不仅满足了“北边”郡地区一切活动均以军事为中心的需要,同时也使各个军事领导机构之间互相牵制,形成了郡级军事领导机构内部制衡、郡级军事领导机构和军事领护机构相互制衡的制衡机制。这两种制衡机制的形成,是与汉武帝希望避免重蹈汉初“北边”诸侯王叛乱的覆辙以及吸取“七国之乱”的教训分不开的,同时也与“北边”郡地区严峻的边疆形势有关。另外,东汉光武帝的军制改革、中央政府制定的“以夷制夷”的边防战略,也促使了制衡机制的产生。汉代“北边”郡军事领导机构制衡机制的形成,加强了中央对“北边”郡的控制,有效抵御了北方游牧民族的侵扰,但是也削弱了边防力量,影响了守边成效。