慕容恪去世了，桓溫終於等來了機會。太和四年（369）三月，晉大司馬桓溫上書朝廷，要求北伐前燕，並建議徐州、兗州刺史郗愔帶領京口兵、豫州刺史袁真帶領豫州兵和他一同北伐，受他節製調度。桓溫的荊州兵加上京口兵、豫州兵，這是晉的三大主力部隊，桓溫是打算傾全國之力出師北伐，他是誌在必得。如今晉廷是他說了算，他的提議自然得到批準。
郗家在京口（今江蘇鎮江市）深耕幾十年，京口兵是郗鑒當年把北方流民組織起來，加以嚴格訓練，才逐漸形成的一支戰鬥力強、紀律嚴明的勁旅。桓溫經常說：“京口酒可飲，兵可用。”他對這支部隊垂涎三尺，一直想據為己有，對郗愔久居京口非常不滿。
但郗愔政治頭腦稍差，他得到北伐命令後也是心潮澎湃，準備大展身手，還給桓溫寫了一封信，表示要與他共輔王室，收複中原。郗愔的兒子郗超當時在桓溫府做參軍，和桓溫關係密切，很了解桓溫的心思。他看到父親寫給桓溫的信後，當即撕碎，又模仿父親筆跡重新寫了一封。“郗愔”在這封信中說自己年老多病，希望離職休養，並請桓溫統領自己的部隊。桓溫見信後非常驚喜，當即建議朝廷調任郗愔為會稽內史——這是個肥差——桓溫本人則親自兼任徐、兗二州刺史，統領京口兵。
太和四年（369）四月一日，是個好日子，桓溫率領五萬大軍從姑孰出發，文武百官前來餞行，桓溫威風凜凜，誌得意滿，準備要一舉收複中原。
桓溫從兗州走水路北上，郗超說：“到臨漳路途遙遠，汴水較淺，水路運糧會有困難。”但桓溫聽不進去。
不久，桓溫抵達了一個叫金城（今江蘇句容市北）的地方，他命大船停下，然後登陸上岸。他對這個地方太有感情了，當初他做琅琊內史的時候經常視察金城，還在河岸邊種下了不少柳樹，轉眼三十多年過去，當年的小柳樹苗已經長成參天大樹，可達十圍粗，而當年他隻有二十歲左右，正是風華正茂的好年紀，如今他已經五十八歲了。歲月不饒人，桓溫撫摸著裂痕斑斑的黑樹皮慨然長歎：“木猶如此，人何以堪！”不覺間已經淚流滿麵。這就是著名的“桓公歎柳”的故事。