楊素躋身歷史舞臺，最初憑的是武人身份立下的軍功。作為大將，他的統兵作戰方法十分獨特殘忍，每次大戰前都要在軍中借故找一些犯錯的士兵在陣前斬首，多者百余人，少者也不下十幾個。還未開打，己方先流血盈前，人頭齊刷刷落地，楊素卻眉頭都不皺一下，照樣談笑自若，而他這樣做的目的竟然是為了鼓舞士氣。兩軍對陣，他從不指揮整軍壓上，而是先派一二百人上去廝殺，不能取勝而敗下陣來者，無論剩下多少人，立刻全部斬首于陣前。繼而再派幾百人上去廝殺，不能取勝的再全部斬首，直到取勝為止。

這種極為罕見的戰法，歷代兵法中唯有《尉繚子兵法》提過，但將之用于實戰的，僅楊素一人。這種戰法歷代以來雖一直為人所抨擊，然而卻令楊素歷經百戰，罕有一敗，因為只有抱定必死的決心，才能激發內心的戰斗意志。這種冷酷的戰法得到大唐名將李靖一定程度的認可，他在自己的兵法《李衛公兵法》中曾如是道：“古之名將，十卒而殺其三者，威振于敵國;殺其一者，令行于三軍。”當然李靖有沒有將這種戰法引入自己的實戰中不得而知，但李靖在大唐一朝往往憑少數人馬即能取得巨大勝利卻是不爭的事實。

憑著這種殘忍的戰法，楊素統兵戰無不勝，甚至在跟突厥這種天生的騎兵作戰時都豪氣沖天，打得突厥達頭可汗的十萬鐵騎號哭而去。

憑借戰功的不斷累積，楊素很快升到尚書右仆射(相當于右丞相)的位置，與隋朝第一名臣高颎共掌朝政，成為朝臣中的二號人物。然而，盡管打仗厲害，但治國理民遠非其長，政務方面遠遠不如高颎。從這個時候開始，為了謀求更高、更榮盛的地位，楊素努力鉆營，大耍奸計，由“功臣莫居其右”的一時人杰，來了個華麗轉身，向“致國于傾危”之一代奸雄轉變。

翻開《隋書》，有個現象令人不得不關注，那就是在列傳中排名靠前的十幾號人，幾乎沒有一個落得善終，究其原因，乃是因為隋文帝雖有雄才大略，卻一向刻薄猜忌，加上大隋江山本是從北周的孤兒寡母手中奪來的，名不正言不順，故此隋文帝向來對群臣防范很深，晚年猜忌尤重，一干重臣，先后以各種小毛病或斬或黜，最后連視若親子的“真宰相”高颎也無法避免。功臣之中，唯獨楊素沒有遭到厄運，而且一路高升，成為頭號權臣，其個中原因，不得不察。史載，楊素當政后，朝臣中稍有不肯附和者，馬上就會遭到楊素的暗中陷害或排擠。很多同僚之所以下馬，背后總能看到楊素施展黑手在運作，更有一些人，因為十幾年前一些雞毛蒜皮的小事得罪過楊素，也被當權后的楊素找到機會公報私仇、打壓報復。

從隋朝名將史萬歲之死，可瞧出楊素行事之陰狠毒辣。

史萬歲曾作為楊素的副手參與平定江南的叛亂，因戰功卓著得到高升，后來突厥犯塞，他被授予跟楊素等同的軍權統兵出戰，立下比楊素高得多的軍功。楊素忌其功勞在己之上，便向隋文帝獻讒說其實突厥人早就投降了，史萬歲完全是為了邀功而向毫無準備的突厥人進攻，結果史萬歲不僅有功不賞，反而在隋文帝心里留下了惡劣的印象。隨后，借著隋朝太子楊勇被廢一事，楊素假稱史萬歲沒有在朝堂上候旨，而是跑去拜謁東宮。是時隋文帝正在追查太子余黨，一聽此言，怒火攻心，立即給史萬歲定了一個“懷詐要功”的罪名，命人當堂將其打死。史萬歲之死消息傳出，天下知與不知之人莫不為其鳴冤流涕，可見楊素之“奸”已經到了怎樣一個地步。然而，楊素一生最大的罪名并非上述這些案例，而是改易隋朝太子一事。

隋文帝與獨孤皇后一共生有五個兒子，長子楊勇在隋朝立國之初即被立為太子，后來的隋煬帝楊廣排行第二，帝位本沒有他的份兒，但他通過與權臣楊素勾結，終于將哥哥搞下馬，奪得帝位。楊勇當了20年太子，并無大過錯，就是花錢稍微大手大腳了些，他一生最大的缺憾即是碰到了一個極品老娘。獨孤皇后奇妒無比，不但不讓皇帝老公染指其他女人，連臣子的小妾生了兒子都能惹得她醋意大發，因此，因為太子楊勇基本上和正妻沒什么感情，反而跟小妾們生了一堆兒女，楊勇在她眼里簡直成了荒淫好色的代名詞。

隋文帝這個著名的“妻管嚴”向來是唯老婆馬首是瞻，加上他本人一貫勤儉節約，所以對楊勇的很多做法也看不慣，因此對長子楊勇的印象越來越差。

作為楊廣一黨的權臣楊素，抓住這難得的空隙，不停地詆毀太子楊勇，不停地在隋文帝耳邊聒噪楊勇這個不是那個不是;另一邊又不停地暗示晉王楊廣如何賢能友好。久而久之，楊勇便成了比劉阿斗還昏庸、比陳叔寶還敗家，將來早晚會斷送大隋江山的不合格儲君，而晉王楊廣則毫無疑問成了唯一適合接替他的人選。600年，隋朝改易太子一事終于塵埃落定，太子楊勇被廢為“庶人”，楊廣正式做了太子。歷史，在楊素的一手操縱下，狠狠地拐了個彎。

楊素在這個過程中所扮演的不光彩角色，注定了他今后一生都只能被釘在歷史的恥辱柱上，被千秋萬代人所唾罵。唐太宗曾在一道《諭侍臣絕讒構論》中痛斥楊素：“隋太子勇撫軍監國，凡二十年，早有定分。楊素欺主罔上，賊害良民，使父子道滅，逆亂之源，自此開矣。”楊廣做了太子，他的其他兄弟馬上有人表示不服，楊素又出面羅織罪名，將三弟蜀王楊秀廢為庶人。滿朝文武，除了駙馬梁毗還敢上書彈劾，已無一人敢出頭，梁毗怒斥：“太子、蜀王罪廢之日，百僚無不震竦，唯素揚眉奮肘，喜見容色，利國家有事以為身幸。”然而，楊素權勢已極，終無法被撼動半分。

最后，連隋文帝之死，都與楊素掛上關系。關于隋文帝之死，史書雖然閃爍其詞，并沒有明言說是被楊廣所弒。但是綜合來看，楊廣一黨終究難逃嫌疑，而作為楊廣首席幫兇的楊素，一直被視作具體行動者，受到萬世之唾罵，武則天詔書里說他“生為不忠之人”指的正是此事。在喜歡給歷史人物臉譜化的中國，楊素的白臉形象似乎已難再改，然而，在撥開歷史的層層迷霧之后，我們又發現，楊素似乎長有另外一副完全不同的臉譜，他寬容大度、不拘小節，不但是善于挖掘人才的伯樂，更是接連促成幾段愛情佳話的好人，隋唐之際產生的“破鏡重圓”、“風塵三俠”、“牛角掛書”等幾段佳話皆與他有關。在楊素身上，我們似乎可以看到魔鬼與天使截然相反的面孔！