金人在攻破汴京、擄走徽、欽二帝之後，最初立的傀儡皇帝是張邦昌，僭號“大楚”。金軍去後，他自己沒有軍隊，害怕民眾起來殺他，便聽部下呂好問之勸，將“帝號”取消，迎奉當時還是天下兵馬大元帥的康王趙構回京，仍奉趙氏為主。趙構於建炎元年（1127年）五月在應天府（今江蘇南京）即位，即宋高宗，南宋建立。不久，趙構就背棄了自己對張邦昌既往不咎的諾言，將其貶官賜死。
張邦昌死後，金廷覺得此時沒有做好統治華北的準備，決定繼續將這片土地作為緩衝區，並物色一個傀儡進行統治。建炎四年（1130年）三月，金兀術完成了對南宋小朝廷的追擊，但回軍時遭到韓世忠和嶽飛的痛擊，大敗於黃天**，損失慘重。金兀術回軍後，金朝廷開始商議立傀儡的事宜。當時比較合適的人選是折可求和劉豫二人。由於劉豫本是宋的高級將領，降金之後，手裏掌握著一部分偽軍，有一定的政治資本，更有其時金國的當權者粘罕（完顏宗翰）在金太宗完顏晟麵前力陳劉豫可用，金將撻懶為劉豫保奏，九月，劉豫被冊封為皇帝，國號大齊，定都大名府（今河北大名），先用金天會年號，不久即改元阜昌。
劉豫出身務農世家，自幼缺乏教養和德行，曾偷同學的白金盂、紗衣。他曾是1100年北宋的進士，靖康之變後被任命為濟南知府，但當時山東一片混亂，劉豫本想讓朝廷安排一個南方安全之地未果，結果帶著忿忿情緒而去。金軍攻濟南，濟南城中有猛將關勝，善用大刀（據說就是《水滸傳》中大刀關勝的原型），多次出戰擊退金軍。金軍遂遣人以利誘豫，劉豫殺害抗金將領關勝，率眾降金。
劉豫的大齊政權建立後，宋金之間倒沒怎麽打仗，倒是大齊和宋朝打了不少場。劉豫自知，大齊作為宋金之間緩衝的屏障，隻有不斷找宋朝的麻煩才有存在的意義。因此，他一稱帝就公開與宋為敵，大肆搜捕宋宗室，收編了許多流寇和宋廷叛將，不斷引誘金軍南侵。紹興三年（1133年）正月，宋襄陽鎮撫使李橫率軍北攻大齊，攻占潁昌府，直逼汴京。劉豫向金求救，金兀術親自率軍支援，金齊聯軍開始反擊。宋朝廷對義軍出身的李橫並不信任，劉光世和韓世忠也隻是揚言要支援，卻按兵不動。李橫孤立無援，一路敗退到洪州（今江西南昌）。齊軍乘勢收複舊地，還順手占領了襄陽府等六郡之地。大齊此時達到了自己勢力的頂峰，既可以西向攻巴蜀，又可以順流而下取吳越。劉豫又配合金軍向華北各地遷移屯田軍，在各地征鄉兵十餘萬作為“皇子府十三軍”，對南宋構成了巨大的威脅。