隋開皇九年正月二十二日，南征大軍元帥晉王楊廣正式進入陳朝都城建康。
從隋文帝楊堅發布命令到陳朝社稷覆亡，曆時還不到三個月。陳朝於公元557年建國，到這一年（公元589年）覆滅，立國僅三十二年、曆五帝而亡。此時，盡管廣大的江南、嶺南地區還有不少陳朝軍隊，但中樞政權的垮台無疑已經宣告了陳朝的滅亡。從這個意義上說，隋文帝楊堅已經完成了一統天下的曆史使命。
楊廣進入建康，一方麵要保證軍隊對百姓秋毫無犯，以此收攬人心，另一方麵卻必須殺戮立威，以此震懾所有潛在的反抗勢力。當天，楊廣便逮捕了施文慶、沈客卿等一幫陳朝佞臣，宣布他們的罪狀後，綁赴宮城之外斬首。
同日，楊廣命高熲和另一個機要秘書裴矩收取陳朝的所有檔案圖籍，查封府庫，無論官方還是民間的資財皆一無所取。此舉迅速贏得了陳朝士民的心，也為年輕的晉王楊廣樹立了非常好的口碑。一時間，“天下皆稱廣，以為賢”。
（《資治通鑒》卷一七七）在隋軍圍攻建康的同時，長江中上遊的隋軍也與陳軍展開了激烈的戰鬥。陳朝軍隊中實力較強的有兩支：一是水軍都督周羅睺，二是荊州（今湖北公安縣）刺史陳慧紀。
當時，周羅睺與郢州刺史荀法據守州城（今湖北武漢市），與駐紮漢口的隋秦王楊俊（楊堅第三子）隔江對峙了一個多月，隋軍始終未能前進一步。
荊州方麵，刺史陳慧紀則派遣部將呂忠肅進駐歧亭（今湖北宜昌市北），扼守西陵峽，在兩岸連接了三條大鐵索，橫截江麵，阻止楊素東進。因當時朝廷已亂成一鍋粥，施文慶又獨掌大權，一意遏製軍方，所以部隊糧餉不繼，呂忠肅就變賣了自己的全部家產，以供軍需。
楊素和部將劉仁恩全力攻擊呂忠肅，大小四十餘戰；呂忠肅據險而守，竭力死戰，前後共殲滅隋軍五千餘人。陳軍士卒每殺死一個敵人，必割下屍首的鼻子回去領賞，而楊素則明令部下，一旦俘虜陳軍士兵，不但不能割鼻報複，反而必須將他們釋放。