南陈趁北方战乱之机，派名将吴明彻北伐，击败北周徐州总管梁士彦，把彭城围了起来。杨素跟着上大将军王轨前去救援，轻松搞定，还抓了吴明彻。这一次他因功成了楚州的老大。

武帝、宣帝相继去世，静帝宇文阐年幼，权利尽在左丞相杨坚手上，杨素敏锐的感知到要变天了，所以他投靠了杨坚，成为汴州刺史，大家都信杨，终究要好些。

相州总管尉迟迥举兵反杨坚，荥州刺史宇文胄据武牢响应。杨素站了出来，他以大将军的身份，领河内兵攻打宇文胄，将其斩杀。这一战结束，他被任命为徐州总管、柱国、清河郡公，食邑二千户，连他的弟弟杨岳也被封临贞公。

搞定了尉迟迥，再也没人能阻挡杨坚，第二年他就立隋代北周，杨素先封上柱国，后又成为御史大夫。

每个成功男人背后都有一个好女人，杨素的背后也有一个，他老婆，一个差点害死他的老婆。

杨素的老婆叫郑祁耶，生性好妒，可能杨素总是习惯性被戴绿帽子而不敢发作，也是因为这个老婆吧。虽然性格不好，但郑氏出身名门，关系硬，后台强，总是干涉杨素的生活。

杨素被老婆搞得没脾气，就开始吵架，想为自己争取点权力，两个人吵得激烈了，杨素就来了一句:“如果我当皇上，肯定不让你当皇后。”

就这句话惹祸了，原来你还想当皇帝，还想不要我。郑氏跑去找闺蜜独孤皇后告状，独孤皇后是杨坚的老婆，一听杨素还想抢自己老公的皇位，那不能留。幸好杨坚还是了解杨素的，最后只是给他免官，并没有杀他。

老婆应该是给杨素上了生动的一课，得宠思辱，安居虑危，有的东西想不得、说不得、碰不得，从此杨素格外注意自保。

杨坚想灭陈，统一天下，第一个想到的就是杨素，于是把在家发呆的杨素又请了出来，任命为信州总管，经略长江上游，建五牙、黄龙等战船，训练水师做灭陈准备。

准备就绪后，隋朝以晋王杨广为统帅，杨素为行军元帅，五十一万八千人，兵分八路伐陈。

杨素带着水军主力，从巴东郡，顺流东下，消灭长江及沿岸南陈水陆军。

陈将戚欣据险守滩，被杨素利用夜间水陆并进，一晚上就干掉了。

陈南康内史吕忠肃以私产充军激发士气，企图固守歧亭阻隋军向前，后兵败又退守荆门。杨素我带人死战，还采取优待俘虏的办法，逐步瓦解陈军防御。巴陵以东或降或逃，顺利切断陈军在长江上下游的联系，后又平定湘州等地。

陈国灭亡，杨素因功封越国公，转内史令他儿子们也都被加封。

隋灭陈后，江南很多人不满隋朝统治，各地义军突起，烽火遍及浙江、江苏、福建等地。关键时刻又是杨素出马，他仅用一年时间，就斩草除根，杀死和俘虏义军三十多万人，江南全部平定。

后面打突厥，杨素一改过去被动防的战术，骑兵对骑兵，用突厥人最擅长的方式打败突厥人，从此突厥人就老老实实的。

因为功劳大，杨素整个家族封公拜将，加上杨坚年龄越来越大，对杨素的提防与日俱增，也让杨素感到害怕。

就在这时，杨广看中了杨素，想要杨素帮他夺得帝位。杨广长期领兵，有勇有谋，两人本来就有过合作，加上杨素担心自己因为功劳太大被清算，就选择帮杨广。

在杨素的不断操作下，加上独孤皇后的偏爱，最终太子杨勇被废除，他们又设法除掉杨秀，平定杨谅之乱。杨广顺利上位，杨素拜尚书令，太子太师，司徒，改封楚公。

其实聪明的杨素也物极必反的道理，自古封无可封之臣都难以善终，所以他开始学萧何自污，纳美妾、置房产，追求极致的奢华。

只是杨素也没想到杨广登上帝位前后的差别会这么大，居然一点也不念他的从龙之功，甚至还封他为楚国公，希望杨素替自己挡丧运。

这一切杨素当然知道，到这时候他也明白死是最好的归宿。在病重后，杨素不肯看病，不肯吃药，他希望自己早点死，让杨广安心，以此来保全家族。

也许杨素在最后的时光会后悔帮助杨广登上帝位吧，至少这样的话，后世也不会说他是奸臣了，他儿子杨玄感也不至于起义，杨氏家族也不至于被杀的几乎灭绝。

当然对于杨素在隋朝建立、平定各地叛乱、打服突厥等事情上，后世还是认可的，所以他在唐朝进入了武庙。