窦宪燕然勒石并非东汉王朝与北匈奴战争的结束,此后北匈奴迁徙于西域,继续骚扰汉疆,希望在西域卷土重来。而东汉进入中期之后,另一个强敌在西凉之地悄然崛起。羌人部落从陇山以西的荒野中汹涌而出,在雍凉肆虐,甚至深入内地;羌乱前后竟有百年以上。
由于羌人灵活的作战方式,习惯大兵团作战且难以适应西北地形的汉军屡遭衄挫。当初大将军窦宪麾下的头号战将、号称匈奴克星的任尚,也于永初二年(108年)惨败于先零羌首领滇零之手,丧师八千多人。
滇零甚至在北地郡建立了先零王朝,使得北地郡脱离了东汉王朝的统治。该王朝延续了10年,才被汉王朝以刺杀首领的手段瓦解。滇零王朝崩溃后,羌乱暂时停息,但130年之后,羌乱再次大规模爆发,在整个陇西地区此起彼伏。任尚的继业者大将马贤在陇西地区往来奔走镇压,按下葫芦又起瓢,最终马贤也在公元141年中伏身亡。
羌乱所消耗的财力以千百亿钱计算,令东汉王朝国库枯竭,三辅也遭到羌乱破坏,几乎没有余力去考虑几乎被羌乱隔绝的西域。但公元137年,大汉敦煌郡兵完成了一次对匈奴人的绝地反杀。