杨坚这样的战场安排就需要一位统帅来全面指挥全军的前线作战，这时的杨坚再一次想到了自己心爱与优秀的儿子晋王杨广。
开皇八年（588）十月，杨坚在安徽寿春置淮南道行台，以晋王杨广为行台尚书令，主管灭陈之事。此时杨广年仅二十岁，要作为灭陈的统帅无论怎么讲杨广还是嫩了些，毕竟国家间的征伐不是儿戏。
于是杨坚在任命晋王杨广总管灭陈之事后，又安排自己的得力助手和能人武将为其保驾护航。其中任命左仆射高颎为晋王元帅府长史，军中之事皆由他拍板决断；杨广的老师右仆射王韶为司马，负责粮草运输，军需供应；同时参加这场战争大隋有名的将领都来了，如韩擒虎、贺若弼、杨素、宇文述、王世积等人都成为杨广帐下统兵将领。说实在的杨广有点像是灭陈的挂名统帅，但是历史证明杨广作为统帅在灭陈的过程中并不是一个花瓶。
对于这场大战杨坚调集了大隋帝国的所有精锐，水陆总兵力达到五十一万之多，共分八路进攻南陈。名义上杨广节制所有大军，但是因为兵力之多，战线之广，所以出永安(四川奉节东)的杨素军、出襄阳的杨俊军、出江陵刘仁恩军三路由山南道尚书令秦王杨俊指挥，直指江夏(武昌)，阻止长江上游陈军东援。杨广军出六合(属江苏)；贺若弼军出广陵(江苏扬州)；韩擒虎军出庐江(合肥)；王世积军出蕲春(湖北蕲春东北)；燕容军出东海(江苏连云港西南)。以上五路由杨广直接指挥，目标直攻南陈都城建康。
十一月，杨坚至定城(陕西华阴)誓师，而准备渡江的各路隋军已进抵长江北岸的指定位置，完成了进攻准备。
十二月，各军大部集结于长江北岸，大军东起海滨，西到巴、蜀，旌旗耀日，刀枪如林，鼓声震天，舟楫竞进，横绝连绵千里，声势之浩大，百年未有。
南陈后主荒淫骄侈，政治腐败，既不懂军事，又不纳部将建议，凭恃“长江天堑”，疏于防务。为了元会(即春节)之庆，竟命镇守沿江重镇江州(江西九江)、南徐州(江苏镇江)的两个儿子率战船回建康，致使江防更为薄弱。十二月，长江上游的隋军首先发起进攻。杨俊督水陆军10余万出襄阳(今属湖北)，进屯汉口。陈后主命散骑常侍周罗喉都督巴峡沿江军事，与郢州刺史荀法尚部数万，据守江夏，同杨俊大军相峙月余。时隋行军总管周法尚率舟师3万，进至樊口(湖北鄂州)，击破抗拒的南陈守军。杨素率水军出巴东，沿三峡东进，荆州刺史刘仁恩部由江陵西上，两军配合，水陆兼用，袭占狼尾滩(湖北宜昌)，击败南陈守将戚昕。
长江上游的大军为南征开了个好兆头，下游的杨广和高颎也定下的渡江总攻时间为开皇九年（589）大年初一，于是新年的到来成了长江下游的南征大军焦虑的等待。
在等待着总攻到来的日子里，担负指挥隋军作战重任的高颎不免惴惴不安，眉头紧锁。因为在历史上北朝的军队屡屡南征都是饮恨长江，败而北还。于是高颖特意找到深知南朝地理人文的淮南道行台吏部郎薛道衡问：“此番举兵，能否平定江东，请君言之”。
这薛道衡是隋朝诗人中艺术成就最高的一人，他在诗歌上的造诣让同为诗人的杨广十分推崇。参加这次的南征之前薛道衡曾经兼任聘陈主使，多次往还江东，对南陈朝的腐败情况了解很深，曾经多次上奏杨坚，要求对陈“责以称藩”，也就是不承认陈朝和隋对等，实有灭陈、统一南方之意。所以高颎由此一问，而薛道衡回答的更是精彩，说：“凡论大事成败，先须以至理断之。《禹贡》所载九州，本是王者封域，南北分裂已久，战争不息，否终斯泰，以运数言之，其必克一世；有德者倡，无德者亡。自古兴亡，皆由此道。我隋主上躬履恭俭，忧势庶政，陈叔宝峻字雕墙，酣酒荒色。其必克二也；为国立体在于用人，陈重用小人，命将非才，其必克三也；陈甲土不过十万，西至巫峡，东至沧海，分之则势悬而力弱，聚之则守此而失彼，其必克四也”。
高颖听后，心头的疑虑顿消，忻然叹服说：“君言成败，事理分明，吾今豁然矣。本以才学相期，不意筹略乃尔”!
薛道衡这个四胜论斯毫不逊色于当年曹操与袁绍决战官渡时，其手下首席谋臣荀彧为其鼓气的四胜论！都说书生百无一用，而能看透形势，料决断大事的往往就是这些手无缚鸡之力的书生！
开皇八年（588）的最后一天，也就是大年三十。
万里长江笼罩在茫茫夜色之中，江水一如既往地拍打着岸边的嶙峋礁石。江南岸华灯闪烁，炮仗声声，笑语连天，百姓们忙着辞旧迎新，把守江户要塞的士兵也都在军营内举行元会之庆，把盏痛饮，高歌做舞。
就在这一时刻，一队舰船突然像箭一般驶向江南要塞，长矛戳空，钢刀森森，一双双虎狼般的目光映绿了长夜！带头的大将正是大隋吴州总管贺若弼。
杨广和高颎定下的渡江总攻时间为大年初一，但作为前锋的贺若弼等不及了，他要抢夺南征的头功，争当渡江第一英雄！贺若弼的行动让沉迷在春节喜庆中的陈军猝不及防，慌溃而逃。
开皇九年(589)一月一日，南陈君臣都沉浸在元会的喜悦里，但是北方的南征统帅杨广却按计划进军至六合以南的桃叶山，指挥下游隋军发动总攻，横渡长江，直指建康