漢趙和後趙相安無事地度過了幾年，但平靜隻是相對的。太寧二年（324）春，後趙的司州刺史石生對漢趙河南郡太守尹平發起攻擊，尹平不敵被殺，石生強行帶走了五千多戶人家返回駐地。
以此事件為標誌，漢趙和後趙成了仇人，拉開了兩個趙國之間戰爭的序幕，河東郡（今山西永濟市西）和弘農郡一帶為主戰場，兵戈不斷，老百姓流離失所。
北羌王盆句除歸降漢趙，這又讓後趙很不爽。後趙將軍石佗率軍對北羌王發動攻擊，繳獲三千多帳篷，牛、馬、羊達一百多萬頭，大勝而回。
接連的失利讓劉曜很惱火，他派中山王劉嶽追趕石佗，還親自帶兵作為後援。劉嶽與石佗在黃河岸邊擺開陣勢，劉嶽叫陣，石佗出戰。劉嶽不愧為大將，幾個回合過後，力斬石佗。後趙軍一看主帥陣亡，撒腿就跑，劉嶽軍隨後殺到，殺死後趙將士六千多人，滿載而歸。
後趙石生率兵屯紮洛陽，不斷渡過黃河攻打晉的領土，晉司州刺史李矩、潁川郡太守郭默打不過，糧草也接濟不上，派人向劉曜遞交了投降書。
太寧三年（325）春季，劉曜派劉嶽率領一萬五千精兵趕赴孟津，派鎮東將軍呼延謨率兵出崤山，和李矩、郭默會師後，聯合進攻石生。劉嶽率軍順利攻克了孟津和石梁，斬殺、俘獲後趙五千多人，大軍繼續挺進，把石生圍困在了金墉城（今河南洛陽市西北）。
後趙中山公石虎率步兵、騎兵四萬進入成皋關（今河南滎陽市泗水鎮），與劉嶽大軍在洛陽城西遭遇。兩強相爭勇者勝，石虎奮勇當先，後趙軍士氣高昂，如猛虎下山一般，劉嶽不敵，被流箭射中，退守石梁。
石虎命部隊深挖溝壕，設置柵欄，把石梁團團圍住，完全斷絕了石梁和外麵的聯係。石梁城內開始缺糧，將士們饑餓難耐，實在沒有吃的了，不得不殺掉戰馬充饑，戰馬一匹匹減少，突圍的可能性也在不斷降低。