這場戰爭雖然是統一戰爭，實際上也是一場為楊家打天下的戰爭，所以隋文帝便把自己的兩個兒子放在了核心位置。楊素此時能和隋文帝的兩個兒子並肩而立，是因為他是位赫赫有名的大將。楊素出身於弘農楊氏，長得是高大威猛，美髯飄飄，是個長得有英雄氣的人物。同時他的文采還非常好，寫的一手好文章。他還擅於書法，並且還通一些占卜術，是一個很難得的文武雙全型人物。
他在北周的時候就嶄露頭角，有一次北周武帝讓他起草詔書，他一揮兒就，寫的是文采斐然，妙筆生花。北周武帝看過後，很是欣賞，便誇獎他說:小夥子好好幹，以後會有一套富貴等著你。楊素當時回了一句:我不想要富貴，我就怕富貴來逼我。這口氣未免也太大了，皇帝誇獎你，至少也應該稍微謙虛一下兒。他這個人還風流倜儻，不拘小節。這樣的才幹，再加上這樣鋒芒畢露的性格，註定他是個能辦大事兒的人，同時也是個容易栽跟頭的人。
果然就在開皇四年他就狠狠栽了一個大跟頭，楊素一生沒怕過誰，可以說他連皇帝都不怕。可是他就怕自己的夫人鄭氏，因為他的夫人鄭氏是個很有名的悍婦。有一次楊素被他家的母老虎欺負的實在受不了了，他就隨口冒出了這樣的一句話:我要是當了皇帝，也一定不會封你當皇后。這可是公然挑釁夫人的權威，這鄭氏哪能饒得了他。她當即就到皇帝那裡進行舉報:我們家楊素說他想要當皇帝，他可是親口這麼跟我說的，我們家的奴僕可以為我作證。想當皇帝那可是謀反罪，那可是要殺頭的。其實隋文帝也知道她家那點破事兒，也就沒有真的那麼嚴厲的處罰楊素，只是把他免官了。
楊素賦閒在家沒事兒乾的時候，他就整天琢磨著如何平定陳朝，他曾數次給皇帝上平陳策。並且每封冊子寫的都是環環相扣、入情入理。隋文帝也知道楊素是個難得的人才，讓他一直就這樣廢在家裡確實可惜。所以隋文帝在正式實施平陳戰爭的時候，就又重新啟用他擔任信州總管，也就是今天的奉節地區，讓他經營長江上游。
楊素上任之後，馬上就開始積極備戰，他一邊組織修建大船、一邊加急訓練水軍。他還給這些大船取了個響亮的名字——五牙船，每條船的長度達一百多米，船上可以起五層樓，並且還在船頭和船尾都設定了六個投擲石頭的拍杆。楊素在上游造船的時候，把聲勢搞的特別大。他還故意把造船剩下的碎木頭扔到江裡，順遊而下，這可是吸引足了陳朝的眼球。楊素的這些舉動完全符合隋文帝的戰略部署，隋文帝看他如此聰明的舉動，便對他非常看好。雖然他不是隋文帝的兒子，在戰爭正式打響的時候，還是給他了個集團軍首領的待遇。
隋文帝確實是好眼光，平陳戰爭的第一仗，也是關鍵的一仗，正是楊素打響的。開皇八年十二月秦王楊俊率領十萬大軍，進駐漢口，做出一副要從武昌進軍的樣子。陳朝一看隋軍要渡江了，就趕緊調動駐紮在三峽口的數萬軍隊去救援武昌。這樣一來三峽地區就兵力空虛了，楊素趕緊趁這個空檔，率領自己的第三集團軍下水了，浩浩蕩蕩地順流而下。
一開始什麼問題也沒有，當到達虎頭灘時，也就是今天湖北宜昌西北這個地方時，楊素的船隊就有些走不下去了。因為虎頭灘前面是狼尾灘，這裡當時駐紮著陳朝的一員將領，他帶領著幾千精兵擋住了去路。而且這個狼尾灘正處於長江的江心，這地方水流湍急、地形險峻，楊素的五牙大船在這種地方是發揮不了作用的。
面對眼前的形勢，楊素還是十分清醒的，他知道如果當下和陳朝硬拼水軍是有風險的。畢竟對方是主場作戰，且水戰是他們的強項，於是楊素便決定採取了水陸並進的夜間突襲戰。
雖然陳朝的水軍擅於水戰，但是依據當時的條件，他們的水軍到了晚上還是要住在岸上的。只要等到他們一回到陸地，隋朝的軍隊就有優勢了。就在當天夜裡，楊素趁著月黑風高，便率軍神不知鬼不覺地出發了。他把軍隊分成了三個部分，中間一路由他親自率領，乘船突襲狼尾灘。其餘的人馬兵分兩路，趁著夜色摸到長江的南北兩岸，分頭去襲擊陳朝駐紮在南北兩岸軍士的大營。
當時主場應戰的陳朝軍隊是有驕傲情緒的，所以他們就根本沒有認真去備戰。隋軍都打到門口了，他們在夜間居然是該睡覺照樣睡覺，連一點兒防備都沒做。
就在他們睡得正香的時候，隋軍忽然出現了，一下子打的他們是措手不及。好多陳軍是還在睡夢中，就稀裡糊塗地成了隋朝的俘虜。就這樣，狼尾灘水戰，隋軍首戰告捷。狼尾灘戰役的勝利對於隋朝平陳戰役意義重大，因為歷年來北方的軍隊遇到水戰就怵頭，對渡江作戰可謂是信心不足。
這次狼尾灘戰役一打贏，馬上就給隋朝的軍隊打了一劑強心針，隋軍計程車氣也就一下子高昂起來了。事實上狼尾灘一戰，隋朝起發揮作用的還是他們的陸軍，但是他們宣傳的時候則說，是隋朝的水軍打敗了陳朝的幾千大軍。過了狼尾灘，楊素的軍隊就和楊俊的第二集團軍匯合在了一起，這樣他們這支聯軍就牢牢的牽制住了陳朝在長江中上游地區佈置的十幾萬大軍，順利地完成了他們的戰略任務。
這時候就該下游的軍隊放心大膽的發揮作用了，當時楊廣才只有二十多歲，還是個毛頭小夥子。隋文帝讓老宰相高炯做他的長帥長使，全面協調工作，實際上楊廣只是取用他王子的身份。上游打的很順，沒想到下游比上游還順。
因為在這關鍵時刻，他們的對手陳後主親自給他們送了一個千載難逢的大禮包。當時後梁宗室帶著十萬人馬投奔了陳朝，陳朝對這些降人降將一直是不放心的。所以陳後主總想找機會震懾他們一下兒，讓他們親眼目睹一下兒實力強大的陳朝。當時正值歲末年初，陳後主就想趁大年初一大朝會之時搞個大閱兵。讓他們看看陳朝兵有多強，馬有多壯，讓他們感覺自己的選擇沒有錯，既然投誠了就要在我的地盤兒老老實實待著。
陳後主考慮到僅僅靠建康附近的衛戍部隊來搞這個閱兵，聲勢不夠大，反映不出千軍萬馬的盛大局面。於是他就想了一個辦法，他讓江州也就今天九江以東的水軍全部回撤到首都建康來，一起參加這個閱兵活動。九江以東是長江下游的位置，如果九江以東的水軍回撤，那可就是說整個長江下游就一艘巡邏艇都沒有了。
面對如此危險的局面，那些清醒的將領就馬上給陳後主提意見了:此時隋朝大軍壓境，恐怕他們來者不善，我們一定還要紮紮實實地進行重點地區的重點防護。陳後主不但不聽，反而自欺欺人地說道:我們這裡是王氣所鍾愛的地方，是天命保佑的地方。以前北齊的部隊曾來過三次，北周的部隊也來過兩次，他們不都是灰溜溜的回去了嗎。所以此次隋朝軍隊過來，還得是和從前一樣，灰溜溜地回去。既然天命都在此，我們還加強防守幹什麼啊！我們如果加強防守不等於是在給隋朝示弱嗎，那多沒面子啊！
這時候，他身邊的一個狎客孔範也過來附和陳後主:長江天塹是上天降下來分割南北的，所以北邊的軍隊是不可能渡過來的，難道他們會飛過來嗎？現在之所以有些人把這些說的很嚴重，那是他們想貪功。想讓陛下重視他們，從而讓陛下給他們撥兵，撥糧、撥錢，所以他們的話絕對不能信。其實我還巴不得隋軍打過來，那時我必定立功，到時候陛下可不要忘了封我做太尉公哦！
就這樣，眼看著隋朝大軍壓境，陳朝的軍隊卻是異常的鬆弛，防守可謂是形同虛設。面對陳後主的一番神操作，高炯和楊廣的軍隊就想趁著陳朝大閱兵，長江防守最鬆弛的絕佳時機進攻陳朝。於是就在開皇九年大年初一來開始行動，當天天降大霧，據史書記載這場霧是既酸又辣還嗆鼻子。陳後主搞完朝會後，多吸了幾口江霧，再加上多喝了幾口酒，所以就爛醉如泥，一直大睡到下午才醒。就在他正在做著美夢的時候，楊廣的軍隊已經在大霧的掩蓋之下，實施渡江作戰了。
這時候有個意想不到的情況出現了，由於賀若弼和韓擒虎這兩支先頭部隊推進的特別快，遠遠超過了他們的預期。他們是按計劃分別從東西兩頭往建康城中間打，在他們推進的過程中，一直就不見到有人進行抵抗，這其實又是陳後主君臣決策的失誤。雖然隋朝的軍隊已經打到陳朝家裡了，可是武將們向他請戰的時候，陳後主還是猶猶豫豫，畏首畏尾，就是不肯真的給武將們權利。這可是在給賀若弼兩位將軍幫忙，可把他們高興壞了，既然前面沒人阻擋，那就擴大戰果吧，於是他們一路勢如破竹，大舉向建康方向挺進。
隋文帝對陳作戰時，發的檄文就是弔民伐罪，兩名將領也非常領會隋文帝的意思，對自己計程車兵管束的非常嚴厲，一旦發現哪個戰士拿了老百姓一針一線，馬上就拉出去斬首示眾，就這樣，他們在軍事上不斷擴大戰果的同時，還征服了廣大江南民眾的民心。
他們對抓獲的俘虜則是寬大為懷，既不殺頭，也不收編，甚至還主動奉送路費。只給他們一個要求:帶上隋朝的宣傳品回家吧！這樣一來，江南的軍民都覺得隋軍是一支仁義之師，再加上現在他們的日子又過的不好，乾脆大家就主動投降隋朝吧。
這樣一來，隋軍推進的速度就更快了，到正月十七這天，賀若弼和韓擒虎這兩支軍隊已經從東西兩個方向兵臨建康城下了，他們把建康城給圍起來了。一直到了這個時候，陳後主才覺得是該聽一下兒武將們的意見了。當時陳朝最著名的兩位將領一位是蕭摩訶，一位是任忠，這兩個人手中的軍隊加起來總共有十萬人。可以說陳朝這時候還是很有力量的，其中蕭摩訶一直是主戰派，他的意見一直是出城應戰。
這時候任忠給陳後主提出了意見，其實是一攬子解決方案。總共有四方面的內容，第一方面說的是，我們是主城作戰，就應該是老成持重。讓對方儘管吶喊吧，我們千萬不要輕率地出城作戰。第二方面是，讓陳後主給他一支軍隊，暫且不管眼前的兩支軍隊，由他直接去跟他們的主帥晉王楊廣打。那樣的話，楊廣就一定會誤以為他們派去的那兩支先遣部隊，已經被我們吃掉了，那樣他的心理上就受挫折。第三方面當這支軍隊到了江北後，他再派人到淮南去，並同時放出謠言:他們是要往徐州走，因為徐州是南北交道的要衝，這些來作戰的北方士兵要想回去，就必須得從徐州走。當他們一聽到我們要進駐徐州，他們就會認為我們是要截斷他們的歸路。那樣的話，他們有可能就會不戰自退。第四方面就是前三個步驟完成以後，我們就可以坐等春水上漲，等到長江水位漲起來，水路更加通暢的時候，那時候我們上游的部隊會來援助我們的，到那時候我們就安全了。任忠提出的這一攬子解決方案，方方面面都想到了，他的這個方案既老成持重，又不乏積極的開拓主義精神，可以說是一種非常好的積極防守。
陳後主這時候一時間也不知該聽誰的意見，於是他就讓兩位將軍先回家了。他想了一夜後，就表態了:仗打了這麼久，我也打煩了，還是讓蕭郎去迎敵吧！於是他就取蕭摩訶方案，捨去任忠方案，令蕭摩訶帶兵出城應戰。
正月二十日，集結在城中的十萬陳軍就傾巢出動了，由蕭摩訶總領，任忠，孔範等都作為隨員作戰，他們要和來自東面的賀若弼作戰。目前賀若弼手裡只有八千人，十萬對八千，賀若弼這邊明顯是寡不敵眾。當時楊廣也是讓他們不要先和蕭摩訶他們打，等和韓擒虎的軍隊匯合在一起再跟他們打。
可是當賀若弼登上鐘山，當時叫蔣山，他朝陳軍的行軍陣營一看，他就想改主意了。因為陳朝雖然是十萬大軍，可他們卻擺了個一字長蛇陣，這十萬大軍拖了足足有二十里長，這種陣型最大的弊端這就是首尾不能相顧。
看著眼前陳軍的陣型，賀若弼當時就想:這樣的陣勢還是很容易突破的，完全可以找一箇中間的薄弱點打過去，趁機撕開一個口子，然後再伺機擴大戰果……將在外軍令有所不受，於是他就當即決定了不等韓擒虎，也不等主力了，就率領自己的八千人馬直接打。
這樣兩軍就廝殺在一起了，別看陳後主是個昏君，他手下的將士還真有拼命的。特別是先鋒吳廣達部，當時就打的時相當頑強，沒一會兒功夫他們就殺傷隋軍兩百七十多人。此時賀若弼手下只有八千人，他可是消耗不起。面對不良局勢，他就命人趕快在陣前開始放火，讓手下的將士們趁著煙幕迅速後撤。
如果這時候陳朝的十萬大軍乘勝追殺的話，賀若弼的八千人一定會被全部幹掉。可是就在這緊要關頭，又一件意想不到的事情發生了。陳軍這邊兒一看賀若弼那邊計程車兵跑了，他們不去乘勝追擊，反而是爭先恐後地去搶隋軍士兵遺留下來的屍體，去割他們的人頭。搶到人頭計程車兵們興高采烈地調頭便往回跑，這是因為在戰爭發動之前，陳後主鼓動大家說:誰要取得敵方首級，必定重賞！就這樣，這些陳軍士兵們只為一己私利，而捨棄良好局勢於不顧，頭也不回地去找陳後主領賞了，這可是救了賀若弼他們了。
賀若弼這個時候也觀察出來了，吳廣達這邊不好打。他很快就找到了陳軍的薄弱環節就在孔範那裡，於是他就立馬率軍朝孔範那裡直衝過去。這個平時只會吹牛皮的孔範，一看隋軍朝他打過來，嚇得他是大叫一聲，扭頭就跑。兩軍交戰，主帥都跑了，他身後計程車兵也就跟著跑。一下子陳軍被打死的，踩死的就多達五千多人，就連他們的總指揮蕭摩訶都被隋軍活捉了。
蕭摩訶這次確實指揮的不好，其實並不是因為他無能，而是因為他本身就不想幹了。因為就在決戰開始之前，他的家人過來向他通報，說就在他剛一出門，陳後主就把他的夫人接到皇宮裡去了。蕭摩訶是個老將軍，可是他娶了一個年輕漂亮的夫人。陳後主是見一個就愛一個的風流天子，火都燒到皇宮門口了，這個荒淫無道的君主居然是舍江山於不顧，只為自己尋歡作樂。有這樣的君主存在，他要是不亡國，那就是天理難容！
聽到這個訊息後，蕭摩訶覺得夫人這一進宮，以後可能就再也出不來了。對他來說，戰爭無非就是保家衛國，現在陳後主把他的家都拆了，自己還有必要再為他守江山嗎？索性乾脆他就什麼也不管了。主帥都無心戀戰了，這個局面也越來越壞，就這樣賀若弼的八千人居然打敗了陳朝的十萬大軍，這也算是戰爭史上的奇觀了。
任忠這邊一看到蕭摩訶兵敗，就趕忙回到皇宮。他對陳後主說:這次真的不行了，無力迴天了……陳後主此時也看出了事情的嚴重性，於是便讓人抬出兩箱金子，懇求任忠帶他們出逃。當任忠看到這兩箱金子時，他就動心了。他帶著兩箱金子離開皇宮後，沒有真的去找船來接應陳後主出逃，而是直接去投降西邊的韓擒虎了。
陳後主看怎麼也等不來任忠，等來的卻是攻入皇宮的隋軍時。他便慌忙拉著他的妃嬪就往外跑，跳進了院內的一口枯井裡，隨後他被隋軍拉出後，做了隋軍的俘虜。
就這樣，隋朝的平陳戰役就異乎尋常的順利結束了。江南二十多州，四百多縣，二百多萬人口就進入了隋朝的版圖。長達三百年的分裂局面終於結束了，這也是中華民族自從秦漢統一之後，第二次具有重大意義的統一。
這次統一是把南北分別發展的國土、南北民族和南北文化給整合到一塊兒了，讓中華民族的發展有了一個更廣闊也更深遠的空間。在南北朝分裂期間，南朝就像一棵大樹的主幹，儲存著中華文化的根本，而北朝就像一棵大樹的枝幹和樹葉，把中華文化儘量向四周張揚。這時候南北統一了，這棵大樹的樹根，枝幹和樹葉終於長在了一起。這才是真正的中華文明之樹，此後隋朝和唐朝的大力發展正是建立在這棵大樹之上。
這次統一也使隋朝的國際地位進一步提升了，一個新的東亞霸主又重新站起來了。這也就意味著以隋朝為核心的新的東亞秩序，也是新的世界秩序建立了。可以毫不誇張地說，隋文帝一半的功業都在這次統一戰爭之中。
