羌人多次前来挑战，但赵充国坚守不出，只以威信招降罕、开羌，成功瓦解了羌人各部落联合抗汉的计划，打算等到羌人困顿之时再发起攻击。此时，酒泉太守辛武贤上书请求攻打罕、开羌，赵充国表示反对。百官商讨后，大多数人都认同辛武贤的观点，宣帝遂下书责备赵充国。赵充国再次上书，详细陈述了其中的利害关系，建议先诛先零，这一建议最终被宣帝采纳。先零羌在赵充国的打击下，逃走、死亡、被俘者众多，罕羌也前来归顺。
神爵元年（前61年）秋，宣帝赐书赵充国，命他在十二月攻打先零羌。然而，赵充国坚持上屯田奏疏，建议朝廷屯田湟中（今青海省湟水两岸），作为持久之计。他提出了亦兵亦农，就地筹粮的办法，认为这样可以“因田致谷”“居民得并作田，不失农业”“将士坐得必胜之道”“大费既省，徭役预息”等“十二便”。赵充国的奏书每次上报，都要被交给公卿大臣讨论。刚开始赞同赵充国计策的人只有十分之三，中期达到十分之五，最后增加到十分之八。宣帝下诏质问先前说赵充国计策不好的人，他们都磕头认错。最终，宣帝同时采纳了赵充国屯田与辛武贤、许延寿出击的建议。
神爵元年（前61年）冬，宣帝诏令强弩将军许延寿、破羌将军辛武贤、中郎将赵印出击西羌，斩首并降敌共八千余人；赵充国则俘虏了五千余羌人。宣帝随后诏令撤军，只留下赵充国继续屯田。
神爵二年（前60年）夏五月，赵充国的奏疏被许可，他整顿军队后返回。同年秋天，羌人若零、离留、且种、皃库一同杀了先零羌的首领犹非、杨玉，同其他首领弟泽、阳雕、良皃、靡忘一起，率领煎巩、黄羝部落的四千多人投降了汉朝。汉朝遂设置金城属国来安置投降的羌人，西羌至此得以平定，汉朝的西部边疆再次恢复了往日的安宁。