西陲之羌，盘踞青、陇，民风剽悍，勇猛好战，策应匈奴，扰我边疆。宣帝遣赵充国讨伐，两年完全平定，因置金城属国安置降羌，也就是西域都护设立的那一年。
武帝后期，聚居在现今青海省境内的羌族，经常向内地侵扰，攻城略地。匈奴也想联合羌人共同侵扰汉朝。面对这种形势，武帝曾提出要斩断匈奴右臂，指的正是这种联合，但派去的士兵也为羌人所败。
这时，羌入又逐渐向湟水以北移动，找寻农民弃耕的地方去放牧。同时羌人各部落也有联合一致的趋向，郡县官吏也禁止不了。这时匈奴又想勾结羌人，以扩大对汉西部的侵扰。汉朝派往浩窖（今青海省大通河东岸）的军队，被羌人打败，损失甚众。
宣帝期间，光禄大夫义渠安国出使到了羌族，羌先零部落酋长向他表示要北渡湟水，到汉民不种田的地方畜牧。义渠安国向朝廷报告这个情况。赵充国弹劾义渠安国奉使失职。从此以后，羌人依照以前的话，擅自渡过湟水，当地汉朝的郡县长官不能禁止。
元康三年（公元前63年），先零部落与各个羌族部落酋长二百多人“解仇交质”，订立盟约，打算共同侵扰汉朝地区。
宣帝知道了这事，问赵充国如何对策，赵充国指出，羌人为患，一是羌族原来各部落互相攻击，易于控制，但近几年来他们“解仇合约”，共同反汉；二是羌族与匈奴早就打算联合；三是羌族还可能“结联他种”，即与其他种族联合。所以他提出“宜及未然为之备”的建议。
过了一个多月，小月氏部落的羌侯狼何果派人到匈奴借兵，打算攻击鄯善、敦煌，以切断汉朝与西域的通道。赵充国估计事情不那么简单，需要深谋远虑。他向朝廷提出建议：一是加强军事上的边防；二是离间羌族各部落而侦探其预谋。
神爵元年（前61年）春，汉朝中央两府（丞相、御史）又推荐义渠安国出使诸羌，了解其动向。义渠安国不懂策略，一到羌部，就召集先零部落的头领三十多人，以他们都有逆而不顺之罪，全部斩首。
调兵镇压先零之民，杀了一千多人。于是羌族各部及归义羌侯杨玉等都很震恐，离开其地，劫掠其他小族部落，犯汉边塞，攻城邑，杀长吏义渠安国以骑都尉身份带领三千骑兵守备羌人，被羌人所击，损失惨重。他领兵退到令居，向皇帝报告。
于是，赵充国虽年逾七十，仍督兵西陲，挫败羌人进犯。回来以后，三向朝廷上书，详细分析了形势，建议防事变于未然，提出了“以兵屯田”的主张，得到宣帝的赞赏。
宣帝因他年老，问他：“派谁去带兵最合适呢？”他回答得很痛快：“再没有比老臣更合适的人选了。”又问：“需要多少人马？”答“百闻不如一见。臣愿立刻去金城（今兰州附近）测看地形，写出方案来。陛下把此事交给我办好了。”他就领骑兵不满万人，迅速出师，巧渡黄河，立稳阵脚，作好战斗准备。
到达湟水岸边，羌人多次挑战，他坚守不出，只以威信招降，解散羌人各部落联合的计划。
这时，他建议朝廷，屯田湟中（今青海省湟水两岸）作为持久之计，提出亦兵亦农，就地筹粮的办法，可以“因田致谷”，“居民得并作田，不失农业”；“将士坐得必胜之道”；“大费既省，徭役预息”等“十二便”。这对当时支援频繁的战争，减轻人民负担起到了很大的作用，一直影响到后世。
