在袁谭败亡的同时，其弟袁熙也祸从天降，为其将焦触、张南所攻，不得已同袁尚奔走辽西，投靠乌桓。焦触自号幽州刺史，率领诸郡太守和各县令长，并数万之众降操，操矫诏封触等为列侯。不久，故安赵犊、霍奴等人杀焦触及涿郡太守，三郡(辽西、辽东、右北平)乌桓攻鲜于辅于犷平(今北京密云东北)。夏四月，黑山军张燕率其众十余万降曹，操矫诏封燕为安国亭侯。八月，操讨杀赵犊、霍奴等人。然后渡潞水救犷平，乌桓未战而出塞。
是年十月，高干听说曹操北讨乌桓，乘机即以并州叛， “执上党太守，举兵守壶关口。(曹操)遣乐进、李典击之，干还守壶关城”。当时与高干相呼应的有：河内张晟有众万余人，寇崤、渑间；弘农人张琰起兵；河东郡掾卫固及中郎将范先等外以请求不要征调太守王邑为名，而内实与高干通谋。曹操很清楚，欲要击灭高干，这些小股势力不可小视，必先除之。因此，曹操对荀彧说：“关西诸将，外服内贰，张晟寇乱崤、渑，南通刘表，(卫)固等因之，将为深害。当今河东，天下之要地也，君为我举贤才以镇之。”根据荀或的推荐，曹操以西平太守杜畿为河东太守。卫固等与高干、张晟联合攻杜畿，曹操使议郎张既征调关中诸将马腾等，引兵会击张晟等。结果大败卫固、张晟，斩卫固、张琰等人，赦其余党。这样一来，没有多长的时间，高干便也陷入了孤立无援之困境。
建安十一年(206)正月，曹操率军亲征高干。高干听说曹操亲率大军而来， “乃留其别将守城，走入匈奴，求救于(匈奴)单于，单于不受。公(操)围壶关三月，拔之。”高干与数骑亡奔荆州，欲投刘表，走到洛河上游，被上洛(今陕西商县)都尉王琰捕杀。并州平，操以陈郡梁习以别部司马领并州刺史。
曹操亲征高干之时，正值寒冬，相当艰苦。他在征途中有所感而作《苦寒行》,描述了行军的艰苦，抒发了自己的感慨。
北上太行山，艰哉何巍巍!羊肠坂诘屈，车轮为之摧。树木何萧瑟，北风声正悲。熊罴对我蹲，虎豹夹路啼。溪谷少人民，雪落何霏霏!延颈长叹息，远行多所怀。我心何怫郁?思欲一东归。水深桥梁绝，中路正徘徊。迷惑失故路，薄暮无宿栖。行行日已远，人马同时饥。担囊行取薪，斧冰持作糜。悲彼《东山》诗，悠悠令我哀。
该诗写得既凄且壮，既实又伤，不失为描写古代战争的绝唱。该诗不仅写出了特定环境的艰苦，而且写出了曹操即时即景的感伤，表达了他早成大业而结束战争的期望。