丘和丟了蒲州後，本來楊廣還擔心楊諒會乘勝渡河，沒想到他居然又縮了回去，楊廣一下就摸清了楊諒的底牌，心裏大感輕蔑，遂命楊素率輕騎五千反攻蒲州。
楊素率部抵達黃河西岸，征收當地商船，在船上鋪上稻草（以防人馬踏上去出現腳步聲），然後命將士銜枚，於深夜悄悄渡過黃河，次日拂曉對蒲州發起突然進攻。漢軍被打了個猝不及防，紇單貴棄城而逃，王聃勢單力薄，隻好開門迎降。
隨後，楊廣正式任命楊素為並州道行軍總管，並調集數萬精銳，北上討伐楊諒。
楊諒得到消息，立刻集結大軍，準備南下介州（今山西汾陽市），迎戰楊素。可是，楊諒前腳剛出城門，城內當即發生了一場兵變，令他的老巢差點傾覆。
這個發動兵變的人，就是他的大舅子、時任王府主簿（秘書長）的豆盧毓。
楊諒準備起兵時，豆盧毓跟皇甫誕一樣極力反對。他苦苦勸阻，可楊諒就是不聽。豆盧毓無奈地對他弟弟說：“我要是單人獨騎逃回京師，固然可以免禍，但這隻是為自己打算，不是為國家。而今之計，隻能假裝順從他，等待時機再作打算。”當時，豆盧毓的哥哥豆盧賢在顯州（今河南泌陽縣）擔任刺史，得知弟弟被楊諒脅迫造反，趕緊上疏楊廣，說：“臣的弟弟素懷誌節，必定不會追隨楊諒叛亂，隻是遭其脅迫，不得不假意屈從。臣願率部出征，與豆盧毓裏應外合，要拿下楊諒也不是難事。”楊廣批準。豆盧賢立刻派家人攜帶朝廷詔書，暗中潛入並州，與豆盧毓取得了聯係。
楊諒根本沒料到豆盧毓會出賣他，還以為這個大舅子回心轉意了，所以南下之前，就把並州的留守大權交給了豆盧毓和一個叫朱濤的親信。
楊諒出城後，豆盧毓馬上把朱濤叫到家裏，進行策反：“漢王叛亂，敗不旋踵，我們豈能坐等滅族，辜負國家！”不料，朱濤卻是漢王的死忠份子，一聽就大驚失色地說：“大王把身家性命托付給我們，你怎麽能說這種話！”說完拂袖而去。