官渡之战，袁绍与其子袁谭等仅以八百骑渡河，失败之惨可想而知。曹操追之不及，尽收其辎重、图书、珍宝，尽坑其降者。冀州诸郡大多举城降操。袁绍的重要谋臣沮授被曹军抓获，曹操赦而厚待，然后因其谋归袁绍而杀之。袁绍回到邺城，因战败而气极，把提过正确建议的田丰也杀了。从此兵少了，敢言之士、智谋之士也没了，袁绍力量大大削弱，完全失去了昔日的优势。
曹操并没有因此而麻痹大意，他十分清楚，袁氏父子尚有能力反扑，因此，并开始了再征袁绍的准备。首先，他于建安六年(201)四月再次北上，扬兵河上，击袁绍仓亭军，大破之。曹操把袁绍军赶离黄河一线；其次，九月还许都后，乘间连做两件兵事，解除了再次北上的后顾之忧，一是自击刘备、共都于汝南，刘备闻风丧胆，投奔荆州刘表，共都等部溃散；二是遣夏侯渊、张辽围昌豨于东海，数月，张辽单身上三公山，入昌豨家说曹操神武，昌豨随张辽归降曹操。再次，休整部队，体恤战士。建安七年(202)正月，曹操把军队带回老家谯县休整。
操军在谯县经过一段休整，然后西返至浚仪(今开封),开治睢阳渠，以通粮道。同时遣使以太牢祀桥玄。然后，随即又把军队开到官渡。
建安七年夏五月，袁绍病死。袁绍自从兵败后发病，最后呕血而亡。死前未能及时确定继承人。众人乃奉袁尚代其父位。袁尚为大将军、冀州牧。袁谭只好自称车骑将军，出镇黎阳。袁尚怕袁谭兵强为难， “少与其兵，而使逢纪随之。谭求益兵，审配等又议不与。谭怒，杀逢纪”。尔后，兄弟矛盾日益加深。
九月，曹操渡河攻袁谭，袁谭告急袁尚，袁尚率兵助袁谭。自九月至第二年三月，曹操大战袁谭、袁尚于黎阳，最后袁谭、袁尚败退还邺。袁绍两个儿子败退之后，诸将欲乘胜追击，曹操头脑冷静，欲待其变而攻之。郭嘉更知袁氏内部状况，力劝曹操待变，对曹操说，袁绍爱此二子，生前没有定下立谁，现在郭图、逢纪等分别为二人的谋臣，必交斗其间，他们回军之后必将分裂，“急之则相持，缓之而后争心生，不如南向荆州若征刘表者，以待其变，变成而后击之，可一举定也”。曹操最善示假，而且屡屡得手。他称赞并采纳了郭嘉的计谋，遂示以南征刘表的假象，建安八年(203)五月率军还许，然后摆出南征的架势。不出曹操、郭嘉所料，不久，袁氏兄弟反目，袁谭攻袁尚，谭败，兵还南皮；袁尚率兵攻谭，谭又败，奔平原。谭不懂得“唇亡齿寒”“兄弟阅于墙”的严重后果，竟遣辛评之弟辛毗向曹操求救。这时，曹操已耀兵南下，军驻西平(治今河南西平西)。辛毗至西平见操，转达袁谭求救之意。因为军已南向，群下多以为刘表强，袁氏兄弟不足忧，应该先平刘表。荀攸则支持曹操、郭嘉的预谋，认为应该乘乱而取河北。荀攸做了两方面的分析，一是认为刘表虽强但不可怕， “天下方有事，而刘表坐保江、汉之间，其无四方之志可知矣”;二是指出袁氏仍有势力，如果“兄弟和睦以守其成业，则天下之难未息也。今兄弟构恶，此势不两全，及其乱而取之，此时不可失也”。辛毗实际也完全站在曹操的立场上，指出“四方之寇，莫大于河北”,力劝曹操先取河北， “河北平，则六军盛而天下震”。
既为人谋，又是天赐良机。曹操应袁谭之请出兵相救，十月至黎阳。袁尚得知曹操又一次渡河，遂解平原之围而返回邺城。尚将吕旷、高翔降操。二将既已降操，而袁谭暗地里又刻将军印给吕旷、高翔，由此曹操更知袁谭并非真心归降，但为了安定他，让其兄弟互斗到底，竟为儿子曹整聘谭女为妻。
建安九年(204)正月，曹操为征袁尚，渡过黄河，截断淇水，使其东北流，注入白沟(今卫河),以通粮道。经过半年时间，打败袁尚，攻下邺城。曹操进驻邺城后，做了四件事：
第一，斩杀审配。操兵生擒审配，引见操，操爱其才，不想杀他，故意给审配个台阶下，对审配说，我围城的时候，城内发射弓箭为什么那么多?配说，我还恨其太少了呢!操说，你忠于袁氏，不得不那样。配意气壮烈，不领其情，始终不说一句软话，又加辛毗等人在旁为审配杀其兄辛评全家而大哭不已，曹操只好将审配杀了。
第二，抚慰袁家。前曾述及，曹操与袁绍本是少年奔走之交，飞鹰走狗，不知共同玩过多少恶作剧。后来成了势不两立的敌人。现在，他把袁绍打败了，而且把袁绍的儿子也打跑了，占了袁氏的老巢邺城，应该是颐指气使、得意扬扬的时候，但他没有露出喜色，而是做了另外的一番表演。他亲到袁绍墓上进行祭奠， “哭之流涕”,并“慰劳绍妻，还其家人宝物，赐杂缯絮”,还让公家负责供给袁氏家人食粮。其实，这正是曹操为人的风格，既有重情的一面，但又始终不忘大谋。他要通过自己精彩的表演以收河北人心，特别是诸多智士的心。由此可以看出曹操其人实乃重感情与谲诈的结合体。
第三，为其子曹丕纳甄氏。
第四，蠲免河北租赋。
袁谭在曹操围邺的时候，开始认识到联合曹操是一大错误，试图叛离，但伎俩拙劣，不能统筹谋敌，于是径自掠取已为曹操占有的甘陵(今河北清河)、安平(今河北深县)、勃海(今河北南皮东北)、河间(河北今市)等地。此时，他依然没有考虑兄弟联合的问题，竟在叛操的同时，再攻袁尚于中山。袁尚败，走故安(今河北易县),投靠其二哥、幽州刺史袁熙。袁谭悉收袁尚之众，还屯龙凑(今山东平原南)。至此，袁谭已把自己完全置于孤立无援之地。
建安十年(205)正月，曹操攻袁谭于南皮，小失利，士卒被杀不少。城破，袁谭败走，操追杀之，并诛其妻子。同时斩杀袁氏父子的老臣郭图等及其妻子。尔后，袁谭被擒，曹操把袁谭杀了，悬首示众，下令说： “敢哭之者，戮及妻子。”由此可见曹操对袁谭较之攻邺时又狠了许多，这既是他不惜杀人之性所使然，也是为了杀一儆百，为那些降而复叛者敲警钟。
袁谭消灭了，冀州平定了，这使曹操大为高兴。据《英雄记》说， “曹操于南皮攻袁谭，斩之。操作鼓吹，自称万岁，于马上舞”。对于曹操来说，平定冀州的确是值得庆贺的大事，因为这使他统一北方成为可能。