正当仁寿宫和长安城内为办隋文帝丧事及隋炀帝登基忙得不可开交之际，并州总管、隋炀帝的幼弟汉王杨谅迅即发动了叛乱，这是隋王朝帝位之争的最后一幕。
汉王杨谅是一个年轻英俊的将军，父母在世时曾受到特别的宠爱。他二十来岁继二哥杨广、三哥杨俊之后，坐镇天下精兵之处的并州，肩负抵御北方突厥的重任，隋文帝许以他可不拘律令，便宜从事，并且还为这位幼子“盛选僚佐，前后长史、司马，皆一时名士”。如以“公正著称”的安定皇甫诞为并州总管府司马， “总府政事，一以咨之”。以南朝梁元帝名将王僧辩之子王頰为总管府咨议参军，著名学者吴郡张冲为汉王侍读，河间尹式任汉王记室。隋文帝还礼聘关陇勋贵豆卢劫的女儿为汉王妃，做贤内助。汉王杨谅府上可谓人才济济，兵强马壮。
杨谅曾两次充任统帅率领大军出塞作战，但却都只是名义上的统帅，实际统帅都是高颖，杨谅只是见习作战。
开皇二十年(600),杨广阴谋夺嫡成功，特别是蜀王杨秀被废论罪，使杨谅恐惧不安。于是借口防备突厥，在管内“大发工役，缮治器械，贮纳于并州”。又“招纳亡命，左右私人，殆将万人”。隋文帝时或认为杨谅年幼不足为虑，或许认可幼子在外藩拥兵以牵制杨广，总之，其在世时没有采取任何措施制止杨谅的谋叛。
杨谅“潜有异志”,早已为其部下所觉察，其中有王颏、萧摩诃最得杨谅信任，也最为杨谅卖力，这一文一武两个得力助手都是南方人。
杨谅在太原，时时注意着京师的政治动向，因得不到京师消息，于是天天观察天象。隋文帝驾崩杨谅一点儿也不知晓，那天，杨谅观察天文，见“荧惑守东井”,即正好火星处在井宿的位置，汉王府仪曹傅奕通晓天文星历，杨谅忙问他“是何征兆?”傅奕知汉王有异图，称天象正常。傅奕为自免于祸，不敢胡乱推测，杨谅很不高兴，内心焦虑万分。
再说隋炀帝杨广登上帝位，自然也不会忘记坐镇并州企图夺位的最后一位对手幼弟杨谅。时隋文帝灵柩及隋炀帝百官尚留仁寿宫， “京师空虚”,为防汉王“起逆”,隋炀帝令郭衍驰还京师， “总兵居守”。同时，派遣车骑将军屈突通以隋文帝的玺书征召杨谅入朝，企图调虎离山，将杨谅骗到京师加以软禁。但是隋炀帝万万没有想到父皇先前为预防变故，曾与杨谅订有“密约”,曰： “若玺书召汝，于敕字之傍别加一点，又与玉麟符合者，当就征。”所谓符，乃兵符，一般做成鱼、兽之形，分成左、右两半，一半在将军，一半在皇帝，皇帝调兵时派遣使者将自己手中的半块兵符交与在外镇守的将军，两半相合将军才受命，以防假造圣旨发兵叛乱。据史载，开皇七年(587)四月，隋文帝“颁青龙符于东方总管、刺史，西方以驺虞，南方以朱雀，北方以玄武”。这一制度直到唐朝仍然沿用。隋朝因并、扬、益三总管均由宗王出镇，统属地域极广，于是有专门的玉麟符。杨广称帝后，当然很轻易地就能拿到半边玉麟符，但他无法知道其父生前与其弟杨谅之间的密约。汉王杨谅见到假造的隋文帝诏书，见旁边无点，马上察觉有变，于是质问屈突通，屈突通辞气不挠，汉王只好将他放回。
杨谅通过假诏书知道了仁寿宫发生政变，他不愿坐以待毙，于是按早已预谋好的计划，决定叛乱。从当时东西兄弟二人的形势来看，杨谅总管山东旧齐境内五十二州军事，所居乃天下精兵处，拥有重兵，如果处置得当，充分调动所部将士，鼓行而西，是有可能迅速拿下京师长安，以武力夺得帝位的。而胜败的关键，则在于杨谅能否驾驭自己的部下。起兵伊始，军师王颏就为杨谅谋划：“王所部将吏家属，尽在关西，若用此等，即宜长驱深入，直据京都，所谓疾雷不及掩耳。若但欲割据旧齐之地，宜任东人。”王颏的两个方案“直据京都”和“割据旧齐”都切实可行，其关键则在于用人。但杨谅不能定夺，在用人方面，他既不重用关陇勋贵，也不重用山东人士，反而重用王颏、萧摩诃等南方失意士人，这不能不说是汉王的一大失策。结果，汉王部下大批关陇勋贵将士对杨谅不是阳奉阴违，就是据城叛变，连其妻兄豆卢毓也在关键时刻出卖他，充当隋炀帝的内应。
杨谅没有去作广泛的政治军事动员，只罗列杨广之罪，却唱言“杨素反，将诛之”,以谣言惑众造反。这样，尚未起兵，就已使自己处于被动，汉王所辖五十二州，响应者仅十九州，仅及其三分之一。而且，既诈众造反，则事不宜迟，应趁部众尚未明白之前迅速解决问题。王府兵曹河东闻喜人裴文安建策分兵略地，杨谅大悦，立即作出四面出击的部署，派遣二路军队南渡黄河略地河南：一路由所署大将军余公理指挥，出太谷，直取河阳(今河南孟县);另一路由大将军綦良指挥出滏口，直到黎阳(今河南浚县)。又派大将军刘建率军东出井陉，略取燕赵之地，派柱国乔全幞出兵雁门(今山西代县境内),进攻官军李景部。并任命裴文安为柱国，与柱国纥单贵、王聃等率军西向直指京师，兄弟皇位争夺的战幕就此拉开。
隋炀帝任命右武卫将军丘和为蒲州刺史，镇浦津(今山西永济县西南)。杨谅挑选精锐骑兵几百人，戴妇人蔽身用的面罩，诈称是杨谅的宫人返回长安，守城的门卫没有觉察，叛军直入蒲州，丘和逾城逃回长安。裴文安等率西征大军欲抢占浦津关西渡黄河，但杨谅却突然改变主意，命纥单贵拆断河桥，据守蒲州，将裴文安召回。杨谅裹足不前，一是京师军情不明；二是后方不稳，因此不敢贸然出击。于是，做出据守之策，任命了数州刺史，等待杨广派兵来攻，这就使杨谅变主动为被动，处于任人宰割的境地。
杨谅不图进取，不敢进兵关中，为保据河东，占有旧齐之境，又发兵北攻抗拒他的代州总管李景。关陇勋贵李景“臂力过人，骁勇善射”,是一员猛将。杨谅先后派刘嵩、乔钟葵率劲勇三万来攻，李景部下不过数千，率军做殊死斗，牵制并屡败大批杨谅军。在南线杨谅采取守势，隋炀帝派杨素率轻骑五千来袭蒲州(今山西永济县西南),杨素乘夜来到河边，士马衔枚渡河，拂晓时发动突然袭击，叛军守将没有准备，王聃以城降，纥单贵逃走。隋炀帝于是任命杨素为并州道行军总管、河北安抚大使，率步骑四万直取太原，讨伐杨谅。
杨谅派出略地的军队也都出师不利，綦良率军进攻慈州(治今河北磁县),遭刺史上官政的顽强抵抗，未能攻克，乃率兵向南转攻行相州事薛胄(相州治今河南安阳),又未攻克。于是从滏口进攻黎州(治今河南浚县),堵塞白马津(今河南滑县黄河南岸)黄河渡口。余公理率军自太行山到河内(治今河南沁阳),屯兵河阳(今河南孟县西),也没取得进展。隋炀帝任命亲信右卫将军史祥为行军总管，驻军河阴(今河南孟津县)。两军隔河对峙。
史祥先在黄河南岸大陈渡船，摆出北渡架势，余公理见势即在北岸“聚甲以当之”。史祥随即暗中潜于下流渡过黄河。余公理自恃兵众，马上率军来拒战。史祥趁叛军尚未成列，命将士迅猛出击，在须水大破余公理所部。得胜后史祥又移师东攻黎阳(今河南浚县),进讨綦良，綦良军不战而溃，史祥乘势追击，杀万余人。这样，杨谅南路两军很快被击溃。
在汉王杨谅所占据的中心地区太原城，也出了问题，隋炀帝让显州刺史豆卢贤秘密派人给其弟豆卢毓送诏书，让他充当内应于内起事，使杨谅的妻族豆卢氏坚定地站在了杨广一边，而杨谅却蒙在鼓里。由于南面军事吃紧，杨谅要去介州(今山西介休),于是命令妃兄豆卢毓和总管朱涛留守太原。杨谅走后豆卢毓即对朱涛策反，朱涛不从，被豆卢毓杀死。豆卢毓于是从监狱里把皇甫诞放出来，与一批关陇将领商议闭城以拒杨谅。杨谅知情后立即率军回攻太原，时豆卢毓等尚未准备好，见杨谅率军到，便哄骗士兵说贼军来了，城上箭如雨下，杨谅转攻西门，城上士兵认识杨谅，打开城门放杨谅进城，豆卢毓、皇甫诞等均被处死。虽然豆卢毓的内应未取得多大进展，但却打乱了杨谅的阵脚，使太原城人心惶惶，军心不稳。
在东部，幽州刺史窦抗不明京师情况，鼠揣两端，隋炀帝派渤海李子雄往幽州(治今北京市),李子雄到任先将窦抗逮捕，接着发步骑三万，自井陉向西进攻杨谅。时杨谅部将刘建正将井陉守将京兆人张祥包围，企图出井陉东出略地燕、赵。李子雄在抱犊山击败刘建军，刘建逃走。这使杨谅四面受敌。隋炀帝又任命左领军将军长孙晟为相州刺史，征发山东兵与李子雄合势。长孙晟因儿子在杨谅处，辞不敢当，隋炀帝则推心置腹地安抚说： “公著勤诚，朕之所悉。今相州之地，本是齐都，人俗浇浮，易可骚扰，尚生变动，贼势即张，思所以镇之，非公莫可。公体国之深，终不可以儿害义，故用相委，公其勿辞”。长孙晟见炀帝对自己如此信任，所部便欣然接受了任命。隋炀帝在此关键时刻，坚定地信用关陇勋贵，收到了很好的成效。
北面代州总管李景被杨谅围困一个多月，隋炀帝命朔州刺史代人杨义臣率步骑两万往救。杨义臣也是关陇勋贵，本姓尉迟氏，其父以尉迟迥作乱自请改姓，义臣幼养宫中，隋文帝赐姓杨氏。时叛将乔钟葵有兵数万，杨义臣见自己兵少，就集中所有的牛、驴，共几千头，命士兵数百各持旗一面，将牛驴隐藏于山谷间。黄昏后两军交战，杨义臣命士兵驱牛驴狂奔，一时尘埃满天，战鼓动地，叛军以为官军大出伏兵，惊恐溃逃，杨义臣纵兵进击，以少胜多，大败乔钟葵，遂解代州(治今山西代县)之围。杨义臣与李景合军，从北面挥师太原。
在太原以南州，晋州、绛州、石州三州的州城均有杨谅的重兵防守，隋军统帅杨素仅向每城各派兵两千去牵制，自率大军北进直攻太原。杨谅派部将赵子开率领十余万人，用栅栏堵塞山径小路。在高壁山岭上屯兵据守，摆开一个长达五十里嗣阵势，纵深设防，以为万无一失。杨素命令部下诸将列兵对阵，围而不攻，自己率一支骑兵冒险潜入霍邑(今山西霍县)东北的霍山，沿着悬崖山谷前进。官军在峪口扎营，杨素坐在营帐外，挑选三百人守营，军士们恐惧敌军强盛，不想出战，多数人争着要守营，致使军队行动迟缓。杨素马上把争着留下守营的三百军士召出军营，不问青红皂白全部斩首。
当他再次下令挑选留守人员时，士兵们无一敢留。于是杨素率军驰马疾进，突然出现在叛军背后，直指敌酋赵子开的兵营，鸣鼓纵火。叛军对这突如其来的行动，不知所措，于是大乱，自相践踏，死伤数万人。杨谅所署介州刺史梁惰屯兵介休，听说杨素将至，即弃城逃跑，赵子开所部于是溃不成军。杨谅闻知赵子开十万大军被击溃惊恐万分，于是亲率十万人马赶到蒿泽(今山西平遥西汾河干流上一大湖)抵御杨素，其时双方兵力对比杨谅仍处于绝对优势，正面决战胜负尚不可知，但恰逢天降大雨，杨谅竟打算退兵。军师王颏劝道： “杨素悬军，士马疲敝，王以锐卒亲戎击之，其势必举。今见敌而还，示人以怯，阻战士之心，益西军之气，愿王必勿还也。”杨谅不听，竟率军退守清源(今山西清徐县，距太原西南约一百公里)。王颏见杨谅无勇无谋，知大势已去，对儿子说： “气候殊不佳，我军必败，汝可随从着我。”果然，杨素率军直接向杨谅进攻，又以少胜多，大败杨谅，并于战阵中活捉萧摩诃，叛军死者一万八千余人。杨谅退守晋阳(太原),被杨素四面包围，杨谅束手无策，穷蹙无计，只好乞降，其余党羽随即被全部平定。杨谅起兵， “月余而败”,几十万大军得不到正确指挥，结果一败涂地，这是隋朝建立以来一场最大的内战。
杨谅的失败完全在于自己的太轻率，毫无军事经验，缺乏谋略， “羊质兽心”,他实在不是其二哥杨广的对手。隋文帝在世时所言： “彼(杨广)取尔(杨谅)如笼内鸡雏耳”。说得太准了，杨广取幼弟杨谅，的确就像老鹰抓小鸡一样轻而易举。
论兵力，杨谅的确十分强大，他起事时的兵力约有三四十万，杨广出动的兵力总计不到十万。虽然杨广以皇帝之尊可以调动全国兵力，特别是关陇强大的府兵，正如汉王府司马皇甫诞所说“大王兵资非京师之敌”。但杨广新立，短时间内要调动大批兵力仍很困难，杨谅则做了多年准备，可以在很短时间集中大批军马，就局部而论杨谅兵力处于优势。但官军却处处以少胜多，用诡计出其不意，出奇兵取胜，这只能说明杨谅的庸劣无能。
然而，杨谅缺乏指挥经验，他的军师王颊却是旷世奇才，杨谅举兵反，“多颊之计”,王颏数进奇策”,但杨谅“不能用”,这就使杨谅的失败不可避免。在杨广登基当了皇帝，已取得了代表国家正统的优势地位之下，杨谅起兵取胜的唯一希望就是集中兵力突袭长安，此策王颊一开始就倡议了，但杨谅中途变卦，缺乏坚定的决心。继而想划河为界，割据旧齐之地，却又四面出击，自不量力，各方面都没有任何进展。官军统帅杨素则久经杀场，老谋深算，敢于孤军深入，直捣老巢，置敌于死地。在兵临城下众叛亲离的情势下，杨谅只好投降。
王顿在杨谅兵败后，企图投奔突厥，逃至深山，道路断绝，知道自己难以幸免后，乃对儿子叹息说： “我的计谋韬略，不亚于杨素，但坐言不见从，遂至于此。我不能坐受擒执，以成全杨素这竖子之名。”说完悲痛地自杀了。后杨素得王颇尸，仍残忍地枭首于太原。萧摩诃也被斩首，时年七十三岁。
杨谅叛乱，其目的是争夺帝位，性质属分裂国家，没有任何正义可言，他的失败不仅是杨广之幸，也是国家之幸，谁还会允许刚统一的国家重又分裂呢?隋炀帝得到捷报欣喜万分，立即派杨约奉“手诏”到太原慰劳功臣杨素。诏曰：
公乃先朝功臣，勋庸克茂。至如皇基草创，百物惟始，便匹马归朝，诚识兼至。汴都、郑州，风卷秋锋，荆南、塞北，若火燎原，早建殊勋，夙著诚节。及献替朝端，具瞻惟允，爰弼朕躬，以济时难。昔周勃、霍光，何以加也!贼乃窃据蒲州，关梁断绝，公以少击众，指期平殄。高壁据险，抗拒官军，公以深谋，出其不意，雾廓云除，冰消瓦解，长驱北迈，直趣巢窟。晋阳之南，蚁徒数万，谅不量力，犹欲举斧。公以棱威外讨，发愤于内，忘身殉义，亲当矢石，兵刃暂交，鱼溃鸟散，僵尸蔽野，积甲若山。谅遂守穷城，以拒铁钺。公董率骁勇，四面攻围，使其欲战不敢，走投无路，智力俱尽，而缚军门。斩将搴旗，伐叛柔服，元恶既除，东夏清晏，嘉庸茂绩，于是乎在。昔武安平赵，淮阴定齐，岂若公远而不劳，速而克捷者也。朕殷忧谅暗，不得亲御六军，未能问道于上痒，遂使劬劳于行阵。言念于此，无忘寝食。公乃建累世之元勋，执一心之确志。古有人言曰： “疾风知劲草，乱世有诚臣。”公得之矣。乃铭之常鼎，岂止书勋竹帛哉!功绩克谐，哽叹无已。稍冷，公如宜。军旅务殷，殊当劳虑，故遣公弟，指宜往怀。迷塞不次。
这是有史可考隋炀帝即位后，出自其手笔的第一道诏文，也是一篇气势磅礴的优秀散文。杨广文采果然不俗，称帝后更是大放异彩，出手淋漓，一气呵成，再也见不到半点压抑之感。杨广把自己描述为正人君子，幼弟杨谅乃人面兽心，自己是一国之君万民之主，代表国家代表正义，杨谅则是乱臣贼子叛逆奸回，平叛行动是大义灭亲，古有先例。诏文数落了杨谅的罪行，称颂了杨素平叛的功绩，把杨素比作周勃、霍光，其功可书之竹帛，流芳千古。此时的杨广，对杨素的感激真是到了无以复加的地步，没有杨素，就没有自己的皇位，所以杨广引用古人言“疾风知劲草，世乱有诚臣”,杨素的确是杨广帝业的第一功臣。
杨素得到隋炀帝褒奖自己的手诏，马上惶恐上表陈谢，表示要“百殒微躯”报君之恩。回到京师之后，隋炀帝赐给杨素物五万段，及杨谅的妓妾二十人，并拜其子为仪同三司。
杨广又亲自写诗赐在南线接连击败杨谅叛军的将军史祥，诗云：
伯毁朝寄重，夏侯亲遇深。贵耳唯闻古，贼目讵知今!早标劲草质，久有背淮心。扫逆黎山外，振旅河之阴。功已书王府，留情太仆箴。
诗文与赐杨素的“手诏”有异曲同工之妙，赞美史祥的英才大略，虽用典故，但主旨仍然是疾风知“劲草”,这与前不久任皇太子居闲时写给史祥的信，判若两人。皇上亲笔手诏题御诗，对于将相大臣来讲已是最大的恩典了。
对于亡身殉国的皇甫诞、豆卢毓，隋炀帝也下诏“褒显名节”,赠官爵封其子孙。其余有功将士李子雄、杨义臣、李景、王仁恭、崔仲方、元寿、陶模、崔彭、赵元淑、麦铁杖等人，也都得到不同程度的封赏。
平定汉王杨谅的叛乱，意味着杨广这个皇帝的宝座不再动摇，不再有什么威胁了。时群臣奏议应将杨谅处死。著作郎王邵为求媚于隋炀帝，特意上书，请改杨谅姓氏。但是，已是绝对胜利者的杨广这时可以大发慈悲了，他说：“朕终鲜兄弟，情不忍言，欲屈法恕杨谅一死”,于是除名为民，绝其属籍。
隋炀帝对跟随汉王叛乱的部下的处罚则没有那么慈悲了，官吏臣民受牵连获罪被处死和流放的竟有二十余万家。甚至连叛乱时态度不明朗的原刑部尚书检校相州事薛胄也被“锁诣大理”, “除名配防岭南”。平叛失利战败的将军丘和及上官政也受到除名流放岭南的处分，因蜀王杨秀事除名在家的原右卫大将军元胄对丘和说了一句“上官政，壮士也”,被丘和告发，竟获罪处死，而丘和因告发有功则免罪补代州刺史，上官政亦得征为骁卫将军。
仁寿四年(604)十月己卯(十六日),隋炀帝将父皇安葬于太陵，立庙号称隋高祖，谥号曰文皇帝，与文献皇后独孤氏同坟而异穴。
杨广以隋文帝次子的身份，苦心经营了十多年终于荣登帝位。他废胞兄杨勇皇太子位，除四弟杨秀蜀王爵，在危急时刻发狠断然弑父，抢班夺位，接着扑灭幼弟杨谅的反叛。可见，杨广在兄弟五人当中是最狠最毒的，也是最有才能的，他的皇位完全是靠自己经营夺得。照例，杨广不是嫡长，本不能继承皇位，现在他终于夺得了，成功了，应该说他尽了最大的努力，冒了最大的风险，费尽了心机，也耍尽了阴谋。他弑父屠兄幽弟，其行为可谓猪狗不如。但他的成功证明他不是一个无能之辈，而是一个强者，一个心狠手辣的强者。若不强，他也可能被自己的亲兄弟剁成肉酱。自古皇位的争夺就是如此，可谓残酷无情，不是你死，就是我亡。