曹操自关中返邺后的两年间，主要精力放在内固在朝权力、外击孙权两方面。他把巩固、发展在朝权力同对外耀兵用武巧妙地结合起来，使之既相得益彰，又交互作用。每次用兵回朝，总是威加一等，爵晋一级，位高一重；反过来，位重爵高又影响和推动着军事势力的发展。
与此同时，曹操也始终关心着西北军事态势的发展。
曹操回邺，命夏侯渊留守长安，主持西北军事；以议郎张既为京兆尹；并为河东太守杜畿增秩为中二千石，以奖励其在西征马超等人期间保证军粮供应的功劳。张既和夏侯渊都没有辜负曹操的重托。张既招怀流民，兴复县邑，百姓怀之。夏侯渊则以行护军将军之职，都督朱灵、张郃等人，追击马超，并先后击破马超、韩遂余众刘雄、梁兴等人。
建安十七年(212),马超等人败走凉州，复集羌、胡之众，击陇上诸郡县， “郡县皆应之，惟冀城(今甘肃甘谷县东南)奉州郡以固守”。继而汉中张鲁派大将杨昂助马超。马超尽兼陇右之众并张鲁援军万余人攻冀城，自建安十八年(213)正月至八月，凉州刺史韦康及汉阳郡太守均因救兵不至而降。马超入城，遂使杨昂杀刺史、太守，自称征西将军，领并州牧，督凉州军事。曹操命夏侯渊救冀，未到而冀：城已被马超占领。马超率众与氐王千万(人名)等迎击夏侯渊，其失利而还。正当马超迎战夏侯渊的时候，凉州参军杨阜与其外兄、抚夷将军天水姜叙，在叙母的激励下约定起兵。他们与叙同乡人姜隐、赵昂、尹奉等和武都人李俊、灵等合谋讨马超。同时派人入冀城暗结梁宽、赵衢等为内应。马超听说杨阜、姜叙等起兵讨己，大怒。赵衢遂乘机怂恿马超出击。马超既出，赵衢、梁宽等即闭冀城门，尽杀马超妻子。马超与杨阜等战，兵败，形同丧家之犬，南奔张鲁。张鲁以马超为都讲祭酒。
对于彻底击败马超，杨阜有大功。曹操封讨马超有功者十一人为侯，杨阜最显，为关内侯。杨阜谦让，曹操致书表达了有功必赏的一贯主张。建安十九年(214),马超向张鲁求兵北取凉州，张鲁遣马超还围祁山。姜叙等告急于夏侯渊，夏侯渊使张邰督步骑五千为前军攻击马超。马超知张鲁难与共成大事，又加张鲁部将杨昂嫉贤妒能，对自己很不友好，心中抑郁不安，遂密书请降于刘备。
马超败依张鲁之际，韩遂在显亲(今甘肃秦安西北),夏侯渊准备攻打时，他弃城西逃，谋走金城(今兰州西北),入氐王千万部。夏侯渊迫至略阳，离韩遂军队不足三十里，突然决定不攻韩遂军，也不攻氐，而是转击长离的(今甘肃天水境内)羌人部落。因为羌人多在韩遂部当差，攻羌，韩遂必救。果如夏侯渊所料，韩遂率羌、胡万余骑救长离诸羌，夏侯渊因势大破韩遂。韩遂奔逃西平(今青海西宁市)。夏侯渊败走韩遂后，立即回兵略阳，既而进军兴国(今甘肃秦安县东北),击灭兴国氐王阿贵，击败此时屯驻兴国的百顷氐王千万，千万奔归马超，南逃入蜀。夏侯渊然后北向转击高平(今宁夏固安)匈奴屠各部。韩遂穷困窘迫，第二年被部将鞠演、蒋石等人杀死。至此，马超、韩遂在西北的势力被彻底消灭。
平定马超、韩遂后，西北大的强劲势力已不存在，但还有两股不大的势力使得善谋大局之势的曹操心中不安。一是盘据袍罕(今甘肃临夏东北)的宋建。宋建乘汉末凉州战乱而起，割据地方三十余年，自号河首平汉王。他地方不大，势力不强，却是一个土皇帝。于是曹操命夏侯渊率诸将讨建。夏侯渊军至，围抱罕，月余拔之，斩建及所置丞相已下。
二是河西诸羌。氐、羌都曾帮助马超、韩遂抵御曹军。氐王势力已被击溃，但诸羌势力除长离羌被烧掠过外，大都没有受到挫折。夏侯渊在自己统兵击宋建的同时，另遣大将张郃等平河西， “渡河入小湟中(今青海东部)”。大军届临，河西诸羌尽降。
陇西尽平，曹操为之高兴，立即下了褒奖夏侯渊平陇右令：
宋建造为乱逆三十余年，渊一举灭之，虎步关右，所向无前。仲尼有言：“吾与尔不如也。”
随后，还因此而为夏侯渊增封三百户。孔子曾对子贡说，他们两人都不如颜回。曹操引用孔子这句“吾与尔不如也”的话，说明他对夏侯渊在西北的军事成就非常满意；同时，也表明夏侯渊的确曾经恰当地理解并贯彻了曹操的军事意图。