曹操兵败赤壁的根本原因在于思想上骄傲轻敌。赤壁之战等于给曹操头上泼了一盆冷水，所以不久他便冷静了。虽然在口头上他依然不断强调客观原因，但实际上他已认识到自己的错误，从而把自己从狂躁的情绪中拉出来，重谋进取。
建安十四年(209)三月，曹操自赤壁退还谯县(今安徽毫州市)。
曹操从赤壁实战中体验到，没有经过训练有素的水军主力，要想征服孙权是不可能的；同时深感孙、刘联盟已成为严重威胁。为了再征孙权、重集力量和瓦解孙刘联盟，他回谯县不久即开始了新的行动。
第一，造轻舟，治水军。曹操屯兵谯县，很快便把赤壁败下来的残兵集拢起来，而且抓紧时间造作船只，投入了军事训练。所以，不到四个月即有了一支新的水军队伍。七月，军队从谯县起程，由涡河顺流而下，入淮河，出肥水，驰援合肥守军。此前，孙权趁曹操赤壁败归之际，即以准备增援周瑜之兵，进攻合肥，但因守将张辽、李典等奋力抵抗，久攻不下。史载，孙权率十万众攻围合肥城一百多天。曹操遣将军张喜带一千骑兵，并让他经过汝南时再把汝南兵带上，去救援合肥。但军队又发生了传染病，所以久而未至。情况紧急，扬州别驾蒋济同刺史定了一计，诡称收到张喜的书信，信中说曹操发步骑四万已到雩娄(今安徽霍丘西),让守军快派主簿去迎接。同时派出三批使者带上书信入城“语城中守将”,实是故意让孙权方面获得这一假情报。果然，三批人中的二批被孙权的人捉到。孙权得到假情报便真的撤军了。所以，当曹操的军队到达合肥时，孙权军队已经退走，曹操遂把军队驻扎在合肥。然后返回谯县。师无大功而还，曹氏父子都开始面对现实，冷静地考虑问题。
第二，存恤已亡吏士亲属。建安十四年(209)七月，曹操军驻合肥，然后数月没有大的军事活动。这时，他积极谋划安边之策，同时不由想起数年来，特别是南向用兵、赤壁战中阵亡和因疾疫而死的将士们和他们的家属。他深知如何对待死在疆场的将士和能否存恤他们的亲属，对于稳定军心、鼓舞斗志和进一步发展势力是至关重要的。因此，在七月十一日发布了《存恤吏士家室令》。其令全文如下：
自顷以来，军数征行，或遇疫气，吏士死亡不归，家室怨旷，百姓流离，而仁者岂乐之哉，不得已也。其令死者家无基业不能自存者，县官勿绝廪，长吏存恤抚循，以称吾志。
赤壁之战，吏士战死和疫死者，按“死者甚众”“吏士多死者”云云估计，总有数万，甚至十数万之多，加上以往战死者，应当是一个惊人的数字。往者虽有伤亡，但大多是胜利中的伤亡，从大局考虑，虽死犹荣，容易得到朝臣和死者亲属的理解。赤壁战败，伤亡惨重，是失败中的伤亡，而且是因指挥失误而最终导致失败的。对此，作为战争的直接指挥者曹操，是应该做出应有的说明。然而，曹操讳言战争责任，指言造成如此众多的“吏士死亡不归”, “家室怨旷”,夫妻不得团聚， “百姓流离”,实非自己所愿， “不得已也”。应该说历史的战争确有其历史的必然性和偶然性，有时战争的发动和进程及其结局，不是或不完全是以人的意志为转移的。从这一角度看问题，应该允许曹操自我辩解，尤其是当他沉浸在战争必胜的迷梦中，怎么能想到失败呢?但从另一个角度讲，由于指挥者曹操的骄傲轻敌、谋略失当，断送了数以万计吏士的生命，战争的责任是不能也不应该推卸的。
曹操存恤死亡吏士家室，这一措施，对于曹操来说，意在解决死亡吏士家室困难，以求得心理上的平衡和安慰。但就其本身来说，它又是积极的。开了优抚战死者家室的先河，产生了历史的影响，使历代成大业者多有效法。
第三，置扬州郡县长吏。扬州辖境跨越大江南北，曹操和孙权都想得而据之，是必争之地，所以双方都设置了扬州刺史。先此，曹操曾以刘馥为扬州刺史。后来孙策所任命的庐江太守李述攻杀扬州刺史严象，曹于是操命刘馥为扬州刺史。据载，刘馥受命，单马赴合肥，建立州治， “数年中恩化大行，百姓乐其政，流民越江山而归者以万数。于是聚诸生，立学校，广屯田，兴治芍陂及茄陂、七门、吴塘诸竭以溉稻田，官民有畜。又高为城垒，多积木石，编作草苫数千万枚，益贮鱼数千斛，为战守备”。可惜刘馥在建安十三年(208)就死了。但他的作为没有白废。正是由于他的治理与备战和张辽等的坚决抵抗才使孙权围合肥久攻不下。
曹操、孙权既已处在战争对立状态，扬州地位更显重要，尽快备置扬州郡县长吏和确定镇将人选，从战争和备边意义说都是非常紧迫的。但以何人主治扬州，不能不慎。曹操毅然以身边重臣丞相主簿温恢出为扬州刺史。同时，又遣甚得见重的原扬州别驾、现为丹阳太守的蒋济还州继任别驾。
第四，开芍陂屯田。曹操重视屯田，到建安中，已收“天下仓廪充实，百姓殷足”效，使曹操征伐四方无运粮之劳。可见，当时的民屯范围相当广泛。除民屯之外，还有一种以军为主，军农结合性质的屯田。军队一边种田，一边戍守待命，目的固有解决守军粮食问题的一面，但更重要的目的是在屯兵、备边御敌。曹操开芍陂屯田，属后者。
芍陂，在今安徽寿县南，因引湃水经白芍亭东积而成湖，因此得名。陂周一百二十许里，是战国时楚相孙叔敖所造，后经历代修治，陂周扩至二三百里，灌田百余万顷。据载，扬州刺史刘馥广屯田，曾修治芍陂、茄陂等以溉稻田。这时刘馥已死，曹操屯兵合肥，开芍陂，实是进一步开发扩大屯田规模。
后来，建安二十四年(219)孙权再攻合肥时，就是因为“是时诸州皆屯戍”,而不能逞其志。
第五，讨平陈兰、梅成。曹操做完了上述几件事之后，淮南边戍诸事停当，遂于十二月又由合肥还谯。但在回谯以后不久，便有“庐江(今安徽潜山)人陈兰、梅成据潜(今安徽霍山东北)、六(今安徽六安)叛，先此还有庐江人雷绪起兵反叛。这样，在今安徽六安、霍山、舒城、岳西、桐城、潜山一带便陷入混乱，影响了对于此一地带的控制。因此，曹操先是派行领军夏侯渊击败雷绪，既而派**寇将军张辽督张郃、牛盖等讨陈兰，派于禁、臧霸等讨梅成。梅成伪降于禁，于禁还军，梅成遂与陈兰转入潜山。潜中有天柱山，高峻二十余里，道险狭，仅可一人通过，张辽率众历险勇进，终斩陈兰、梅成，尽虏其众。讨平陈兰、梅成，曹操得以有效地控制淮南之地。这是赤壁战后的一次小的战争胜利，对于鼓舞士气很有实效，所以曹操对此感到相当欣慰。