桓溫滅了成漢國之後，聲名大振，朝廷對他忌憚不已。
會稽王司馬昱為了壓製他，讓揚州刺史殷浩參與朝政，以期對桓溫有所抑製。
桓溫很不滿，但因熟知殷浩為人，知道他難有作為，對此並不擔心。當時，桓溫治下有八州之地，自行招募軍卒、調配資源，逐漸形成半獨立狀態，漸露不臣之心。
永和五年（公元349），後趙皇帝石虎病死，北方形勢大亂。
桓溫又看到了立功的機會，知道滅了後趙的話，自己威望更高！當下上疏朝廷，請求北伐。
朝廷的人又不傻，自然知道他的心思了，當下沒有回複。
永和七年（公元351年）十二月，桓溫索性來個“拜表輒行”，不等朝廷回複，率五萬大軍順流而下，至武昌而止。
朝廷得知之後，頓時驚恐不安，沒想到桓溫膽大妄為到這種程度！
殷浩自覺沒能力控製桓溫，打算辭官避讓。
司馬昱立即寫信給桓溫，極力勸阻，要求桓溫率軍還鎮，返回荊州。
朝廷為了安撫桓溫，當下拜他為太尉。
桓溫的野心遠不止太尉，當下拒絕。
朝廷為了不讓桓溫擅自北伐，當下派殷浩數次進攻前秦，想占據洛陽，修複園陵，哪裏知道屢次戰敗，軍需物資更被掠奪殆盡，朝野怨恨不已。
永和十年（公元354年）正月，桓溫上奏朝廷，列舉殷浩罪狀，迫使朝廷將殷浩廢為庶人。自此，朝廷內外大權盡歸桓溫，朝中已無人再能阻止桓溫北伐。
永和十年（公元354年）二月，桓溫率軍北伐前秦。他親率步騎四萬自江陵出發，由水路自襄陽入均口，然後自淅川直趨武關，同時命梁州刺史司馬勳兵出子午道，合擊秦軍。晉軍曆經數次血戰，生擒前秦將領郭敬，擊退淮南王苻生，順利進入關中。
前秦皇帝苻健命苻萇、苻雄、苻菁等將領率五萬軍隊屯兵嶢柳，以阻擋晉軍。