杨素接受平叛任命后，立刻整装出发。
在隋文帝时期，杨谅被封为汉王，兼并州总管，统管并州军政事务。并州（今太原一带）是隋王朝北部边防重镇，是抵御突厥的门户，故杨谅拥兵十万，有王世宗、赵子开、萧摩诃等名将辅佐。
此时杨谅已经南下，占据了龙泉、临汾、绛州等城，目标直指京城，对东北的幽燕地区（涿郡、上谷郡等）无暇顾及。
（注：隋之前，地方划分实行州、郡、县三级，隋文帝改为州县二级制，杨广登基二年后，将州改为郡，即下图中，郡与州相通。）
杨素的前军与杨谅的前军在绛郡相遇，都要挫败对方锐气，立刻进入战斗，杨素亲临战场指挥，布下了九宫连环阵，阵内有九个步兵组成的圆阵，圆阵之间有通道，是以守为主的阵势。面对敌人进攻，圆阵在阵内移动，环环相扣，将敌人绞杀在阵中。
杨谅的前军总指挥赵子开不甘示弱，摆出燕翎阵型，攻击敌阵，见到敌阵在己方的多重冲击下，阵型不乱，不漏破绽，再斗下却前军必败，立刻派出两翼骑兵，掩护前军回退。
杨素见敌军退而不乱，下令鸣金收兵。
（注：在冷兵器时代，两只训练有素的精兵对战，若是旗鼓相当，就能见到双方斗阵，才能见到阵型应敌而动、灵活转换。）
赵子开向杨谅建言，杨素精通兵法，而且军法严苛，能在短期内提升军队战力，今日前军之战，证实敌军锐气正盛，我军应避其锋芒，布置防守阵势，先立不败之地，在寻机决战。
杨谅采纳了赵子开的建议，授权赵子开全权布置防线。赵子开领军连夜后退二十里，依托绛郡、文城，将十万大军展开，在所有的道路上设置防线，在各个制高点上安营扎寨，摆开了五十里的战阵。
杨素与部将商议破敌之策，敌军十万，我军五万，一旦开战，我军需集中兵力，快速击败迎面之
敌，一旦陷入拉锯战，兵少的劣势将会暴露。而今，敌军防守严密，相互呼应，在没找到能一击制胜办法前，就不能大举进攻。
杨素想到了暗度陈仓之计，绕开敌人防线，突袭敌人后方心脏并州城（太原）。但是，若想率领大队人马绕过去，一旦被敌人识破意图，在半路阻击，就必败无疑。
杨素想到了几年前解散的锐锋营，这些人大都落户在幽燕地区，杨素立刻派人征招锐锋营的兵马，到涿郡集合，涿郡太守崔弘昇没有反叛，手中有 5000千兵马，可堪使用。
杨素任命屈突通为大军临时统帅，为减少目标，自己只带 200人，潜往涿郡。同时，让屈突通打着自己的旗号，继续试探进攻，并要求洛阳派出援军，进一步迷惑对手。
当北口寨村民见到锐锋营老领导前来征招，能战之士全体出动，其它村寨的情况也是类似，最终几乎是锐锋营的原班人马汇集到了涿郡，共计一千多人。
杨素到来，率领涿郡部众和锐锋营人马共计六千多人，悄然出发，首先他们在黑夜偷偷爬上雁门郡城墙，轻取雁门城，并接收雁门守军归为己用，然后直奔介州，当介州刺史梁修罗看到城外突降大军，大惊失措。城外将士齐声大喊：“反正起义，既往不咎，追随叛逆，死亦蒙羞”。梁修罗见军心已失，只能带领亲信弃城而逃。
杨谅接到杨素率军连破数城，正在逼近并州的战报时，不得已立刻率领全军回援，屈突通趁势追击，杨谅大败而逃，半路上又受到杨素的阻击，二下夹攻，杨谅再次大败，赵子开战死，萧摩诃被活捉，杨谅只带回少量兵马逃回并州城内。并州城被团团包围，杨谅走投无路，出城投降。
注1：
许多人不知，杨素的军事功绩不在后辈战神李靖之下，杨素主导了灭掉陈国之战，实现国家统一，又领兵大破突厥进犯，并领兵追杀，深入突厥纵深 700余里，突厥可汗重伤而亡。从此奠定隋朝大国地位，隋文帝杨坚是
第一个被尊为“圣人可汗”的。
杨素不但军事才能冠绝当代，文采也非常出众，并持才傲物，只与文采出众的风流雅士相交为友。
李靖是隋朝名将韩擒虎的外甥，年轻时曾在杨素身边学习，李靖书写的兵书，是集前辈之大成，将冷兵器的战争手段发展至顶峰！。（可惜的是李靖的大部分兵书，流传至今，只能见到少部分残卷。）
注2：
隋朝至唐初，中国正规军的战力是冷兵器时代最强的，远超同期其它国家，也超越了后来历史上出现的强军，原因如下：
1、具有完善的军事理论：从春秋战国的孙子兵法----三国曹操兵法----唐朝李靖兵法，将冷兵器的战争手段发展至顶峰。此后的兵书，多是对现实情况的变通应用，例如，明朝戚继光著作《纪效新书》和《练兵实纪》。
2、世家大族世代传承（流水的王朝，铁打的世家），例如，杨素的先祖是东汉宰相，传承至今，历经几十个王朝，屡出大官，从未衰败，所以杨素家学渊源，精通兵法。
此时的将官，多是来自于世家，或父辈也是将官的家族。
（唐之后，世家逐渐消亡，许多传承断档，例如：李靖兵书只见少部残卷，著名的唐刀国内全无。）
3、历经数代的府兵制，而且代代战事频发，优胜劣汰，将府兵的个体战力发展到最强。
所以说，这个时代造就了最强的将官，最强的士兵，产生了世界最强的军队。
对比此后的所谓强军，创立金国的女真兵、成吉思汗的蒙古军、皇太极时的清兵，他们无论从将官体系，还是兵源素质都不能和此时相比。
注3：
隋朝杨广时期，有 190个郡，1255个县。大郡包含十多个县，小郡包含数个县。