书报捷，有诏召素还朝，授素为并州道行军总管，兼河北道安抚大使，统着大军，再出讨谅。谅闻隋军大举，乃自往介州堵御，令府主簿豆卢毓，及总管朱涛留守。毓为谅妃兄，尝阻谅起兵，谅不能用，毓私语弟懿道：“我匹马归朝，亦得免祸，但只为身计，非为国计，不若且静守待变。”及留守并州，召涛与语道：“汉王构逆，败不旋踵，我辈岂可坐受夷灭，辜负国家？当与君出兵拒绝，不令叛王入城。”涛大惊道：“王以大事付我二人，怎得有此异语？”因拂衣径去。毓见涛不肯相从，竟惹动杀心，立率左右追涛，把他杀死。又从狱中释出皇甫诞，协商军事，且与开府仪同三司宿勤武等，闭城拒谅。毓似有大义灭亲之志，但甘助枭獍，亦不足取。部署未定，已有人急往报谅，谅慌忙引还，西门守卒，纳谅入城，毓与诞俱被杀死。
谅将余公理，自太行下河内，正值隋行军总管史祥，出守河阴。祥语军吏道：“余公理轻率无谋，且恃众生骄，若能智取，一战就可破灭呢。”因具舟南岸，佯欲渡兵，自率精锐潜出下流，乘夜渡河。公理只防南岸渡兵，聚众抵御，哪知祥从旁面杀到，一时措手不及，即被捣乱队伍，再加对面隋军，乘机急渡，也来夹攻公理。公理逃命要紧，当即返奔，余众死了一半，逃去一半。祥东向黎阳，谅将綦良，方从滏口攻黎州，屯兵白马津，一闻公理败还，祥军掩至，便吓得魂胆飞扬，不战自溃。惟代州城尚在围中，李景与乔钟葵，相持约一月有余。朔州刺史杨义臣，奉敕往援，道出西陉，闻钟葵移兵逆击，自顾麾下兵寡，恐不能敌，乃想出一法，悉取军中牛驴，得数千头，复令数百人各持一鼓，潜匿涧谷间，然后进击乔钟葵。时已天晚，两军初交，义臣命谷中伏兵，驱着牛驴，鸣鼓疾进，顿时尘埃蔽天，喧声动地。钟葵军疑是伏兵，又兼天色将昏，无从细辨，不由的纷纷倒退。义臣复纵兵奋击，大破钟葵，钟葵落荒窜去，代州解围。杨素引兵四万，沿途招降。晋、绛、吕三州，俱向军前投诚。谅遣部将赵子开，拥众十万，栅断径路，屯踞高壁，列营延五十里。素令诸将攻栅，自引奇兵潜入霍山，攀藤援葛，穿出前谷，得绕至赵子开军后面，击鼓纵火，直捣子开各营。子开不知所为，麾众亟遁，自相蹂踏，杀伤至数万人。
谅得子开败报，很是惊惶，搜括部下兵士，尚有十万人，乃悉众出城，往堵嵩泽。会秋雨连绵，不便行军，谅欲引军退还，谘议参军王頍道：“杨素悬军深入，士马疲敝，王率锐骑往击，定可得胜。今未战先怯，挠动众心，待素军长驱到来，何人再为王效力呢？”谅不能用，竟退保清源。既不从裴文安，又不从王頍，怎得不败？王頍为梁朝王僧辩子，颇有智略，因见谅不肯依议，退回诫子道：“汉王必败，汝宜随我，免为所擒。”遂密整行装，伺机潜遁。还有陈氏旧将萧摩诃，亦随谅麾下，年已七十有三，谅倚若长城，及素军进逼，摩诃率众出战，将士俱无斗志，单靠一个老摩诃，有何用处，反被素军擒去。谅弃了清源，走保晋阳。他本来仗着王頍、萧摩诃两人，偏偏一遁一擒，害得两臂俱失，不由的焦灼异常。素军又乘胜攻城，围得铁桶相似，眼见得朝不保暮，只得登城请降。素允他免死，谅即开城迎素，素系谅送长安，再分兵搜捕余党，或降或诛，悉数荡平。王頍欲出奔突厥，路梗道绝，自知不免，因即自刎；惟嘱子勿往故人家。頍子就石窟中，瘗埋父尸，自在山谷内躲避数日，无从得食，不得已违了父训，出访故人。果然被故人擒献军前，并因此获得頍尸，一并在晋阳枭首。萧摩诃亦即伏诛，妻子籍没。不知他继妻容色，又仍依旧否？并州吏民，坐谅死徙，共二十余万家。谅虽得免刑，终废为庶人，幽锢别室，竟致瘐死。隋文五子，除炀帝广外，已死三人，惟蜀王秀废锢如初，尚未遭害，俟后再表。
且说炀帝既得平并州，又好恣意淫乐，坐享太平。惟宣华、容华两夫人，究不便明目张胆，收为嫔御，只好令之出居别宫，有时私往续欢，却被萧妃瞧透机关，冷讥热讽，说得天良发现，也觉怀惭。自思闷坐深宫，太无兴味，因欲出外巡游，可巧术士章仇太翼，伺旨希宠，上言：“雍州地居酉位，酉是属金，与陛下木命相冲，不宜久居。且谶文有云：‘修治洛阳还晋家，’陛下何不营洛应谶。”炀帝大喜，即留长子晋王昭居守长安，自率妃嫔王公等，往幸洛阳，一面发丁夫数十万，掘堑为防，自龙门直达上洛，择要置关，借资守御。又改洛阳为东京，营建宫阙。当时尚有与奢宁俭的敕文，欺人耳目，一班曲意逢迎的官吏，奉命监工，昼夜赶筑，先创造了几座大厦，作为行宫，以便驻跸。炀帝就此居住，过了残冬。
次年元旦，便在行宫受朝，改元大业，大赦天下，立萧妃为皇后，并使侍臣赍敕至长安，立晋王昭为皇太子，授宇文述为左卫大将军，郭衍为左武卫大将军，于仲文为右卫大将军，改豫州为溱州，洛州为豫州，废诸州总管府。过了两三旬，杨素自并州还朝，进谒行在，因敕有司大陈金宝器玩，锦彩车马，引素及从军有功诸将士，班列殿前，令奇章公牛弘宣诏，进素为尚书令，特给上赏。诸将依次进秩，赏赉有差。才阅片时，已将所陈各物，分给无遗，大众