王世充見竇建德大敗被俘，在一個月之前就已出城投降，唐軍稍作整頓，便入了洛陽城，一切事務暫時由長孫無忌、杜如晦等人打理。這兩人不愧為賢臣，他們命令唐軍分守街道，禁止搶掠，對百姓做到秋毫無犯，然後再運送軍糧入城，救濟洛陽百姓。
而尉遲敬德、徐茂公等人回去複命，隻向眾人說李世民負傷，在山中養病，並未透露實情。
李世民回到洛陽後，便迅速著手處理公務。洛陽隋宮中珠寶古玩和田宅契券，堆積如山，李世民就派人封查府庫，收齊財寶，一一點查清楚，取出一部分用於賞賜唐軍將士，其餘的都用封條貼好妥善保存。又將餘下的鄭軍整編，挑選了自願留下的精銳兵士以充實唐軍，剩下的那些或發給路資遣散回鄉，或分給田地讓其自食其力。另外，他還下令將宮中所有年輕女子放還民間，讓她們自行選擇夫婿嫁人。
李世民的這些舉動得到唐軍將士與洛陽百姓的支持，但洛陽城的百姓在這次圍城中餓死大半也確是事實。唐軍圍困洛陽半年，城內因饑餓、疾病而死的百姓難以計數。唐軍兵士入城後打掃城內街道，處理百姓的屍體，持續了半月之久。四年前遷入宮城的三萬戶居民，如今居然不足三千戶。
我站在偏殿上，看著一座座富麗堂皇的隋朝宮殿在熊熊大火中燃燒著。如今，這雄偉的宮殿已不是最高權力的象征，而是罪惡的象征，它的底下埋藏著數十萬役夫的累累白骨，是隋朝十幾年暴虐統治的象征。李世民曾在宮殿前歎道：“逞奢侈之心，極窮人欲，豈能不亡？” 他心中十分清楚，必須把這些暴政的標誌燒掉，讓天下人和後代永遠以此為鑒。於是他命兵士先拆掉宮殿，磚木任由百姓自取，而後再下令放一把火，將剩餘的宮殿框架全部燒毀，用來奠祭天下幾千萬冤魂。