開皇八年（588）三月，楊堅很高調地宣布討伐陳朝，發誓要統一天下。楊堅給陳叔寶羅列了二十條大罪，命人抄寫三十萬份傳單散發江南，下詔說：“天之所覆，無非朕臣，每關聽覽，有懷傷惻……以上天之靈，助戡定之力，便可出師授律，應機誅殄，在斯舉也，永清吳越。”
陳朝君臣看到傳單，心想：“隋朝這次又想忽悠我們，讓我們白忙一場，我們才不會再上當呢！”因此，陳朝上下一點都沒上心。
十月，楊堅在壽春（今安徽壽縣）設置淮南行台省，任命次子晉王楊廣為行台尚書令，總管滅陳事宜。左仆射高熲、右仆射王韶（楊廣的老師）分別擔任晉王府元帥長史、司馬，處理軍務。當時楊廣剛滿二十歲，不懂軍事，所謂的主帥隻是名義上的，伐陳的具體事務由高熲負責，“三軍諮稟，皆取斷於熲”。
楊堅給前線調集了五十一萬八千名士兵，製定了分進合擊、直指陳朝都城建康的軍事計劃：晉王楊廣由六合出發，秦王楊俊由襄陽順流而下，楊素的水軍從永安東進，韓擒虎由廬江急進，賀若弼從吳州渡江，此外還有荊州刺史劉思仁、蘄州刺史王世績、青州總管燕榮等人從海陸各地出兵，各軍都以滅亡陳朝為目標。
盡管在政治上很高調，隋朝的伐陳戰役在軍事上卻很低調，是典型的突襲戰。
開皇九年（589）的元旦夜，吳州方向的賀若弼率軍乘大霧從廣陵秘密渡過長江。將要渡江的時候，賀若弼酹酒發誓說：“本人賀若弼親承廟略，遠振國威，伐罪吊民，除凶翦暴，上天和長江為我作證。如果上天善惡分明，就讓我大軍得勝歸來；如果出師不利，賀若弼葬身江魚腹中，也死而無恨。”賀若弼說完，率領大軍浩浩****地渡江前進，對岸的陳軍竟然沒有發覺。等隋軍安然渡過長江，殺向陳軍各據點後，陳軍才倉皇組織抵抗。