姚興去世，後秦發生內亂，關中**，劉裕大喜，認為這是奪取關中、收複失地的好機會。義熙十二年（416）三月，劉裕向朝廷上表，要求北伐後秦。朝廷任命劉裕為中外大都督，兼司、豫二州刺史，任命劉裕的長子劉義符為徐、兗二州刺史。琅琊王司馬德文要求打前站，先到洛陽去整修皇家陵墓，劉裕同意了。
大軍將要出征，恰巧這時候寧州刺史派人給劉裕送來了一個琥珀枕頭。琥珀枕頭可以促進血液循環，增進睡眠質量，同時琥珀又能散瘀止血，是很好的醫治刀傷的藥材，劉裕便沒有獨享，而是命人把琥珀枕頭弄碎，分發給各位將士，讓他們戰時使用。
劉裕任命劉義符為中軍將軍、監太尉留府事，劉穆之為左仆射，兼任監軍、中軍二府軍司，入住東府，總理朝中事務，太尉左司馬徐羨之為劉穆之的副手。命左將軍朱齡石負責宮中的安全保衛工作，徐州刺史劉懷慎守衛京師，揚州別駕從事史張裕任留州事。
劉穆之處理實際工作的能力非常強，往往能化繁為簡，在談笑中就能批閱文件，而且不會出現錯誤。他高效率地處理完公務，還能利用閑暇時間讀書練字，甚至校訂文書中的錯誤。劉穆之年輕時窮得沒飯吃，對此他刻骨銘心，現在有條件了，每次吃飯的時候都喜歡擺個大桌子，邀十幾個人一同用餐。
義熙十二年（416）八月十二日，劉裕率大軍從建康啟程。他命龍驤將軍王鎮惡、冠軍將軍檀道濟率步兵從淮淝攻打許昌、洛陽，新野太守朱超石、寧朔將軍胡藩攻打陽城，振武將軍沈田子、建威將軍傅弘之攻打武關，建武將軍沈林子、彭城內史劉遵考率水軍攻打石門，從汴水入黃河。又命冀州刺史王仲德率前鋒部隊疏通钜野澤（當年桓溫挖的），使之可以入黃河。劉穆之對王鎮惡說道：“元帥對你的期望很高，你要不負所望！”王鎮惡說道：“不收複關中，誓不回來！”