隋煬帝居江都一晃兩年，政治上沒有任何作為，驕奢**逸縱情享樂，一行公卿百官禁衛將士幾十萬人在江都耗費巨大。至大業十四年(618)來臨，江都糧草已盡，而各地賦稅租米也無法送到，江都朝廷的境況已相當困難了。
跟從隋煬帝的關中驍果因追思故鄉親人，叛亡不絕，有的竟結夥而逃，郎將竇賢率所部西走，隋煬帝派騎兵追上將其斬首，但仍然製止不住，亡叛相繼。隋煬帝甚感憂慮，但又沒有辦法。隋煬帝試圖以鐵腕控製禁軍，但一味鎮壓隻能激化矛盾，使禍生肘下。雖然為將士娶妻，但快樂一陣之後，驍果又生逃跑之念，這使禁軍將領也不得不作出選擇，隋大廈將傾，誰也不願做殉葬品，於是，反叛隋煬帝的陰謀開始在禁軍將士中醞釀。
首謀虎賁郎將司馬德戡為關中扶風郡雍人，其父仕北周為都督，德戡仕隋為侍官，遷大都督，為府兵係統的軍官，屬關隴勳貴成員，曾從楊素攻討漢王楊諒，從隋煬帝征高句麗，以功晉位正議大夫，甚得隋煬帝信任。從幸江都，司馬德戡在隋煬帝身邊任禁衛軍軍官，統領左右備身驍果萬餘人，在江都東城內紮營。司馬德戡串通元禮、裴虔通等人，於是轉相招引，內史舍人元敏、虎牙郎將趙行樞、鷹揚鄖將孟秉、直長許弘仁和薛世良、城門郎唐奉義、醫正張愷、勳侍楊士覽和李複，及牛弘的兒子符璽郎牛方裕等皆串通一起，約為刎頸之交，情相款昵，日夜相結約，於大庭廣眾中無所畏避地公開議論北逃之計。
密謀者都是關隴人士，又地處近侍，與隋煬帝居處很近，因此有不少宮女聽到一些消息，告知蕭後： “外間人人欲反。”蕭後讓他們奏告隋煬帝，隋煬帝聽後竟認為此事非宮女所宜言，朝著女流輩大發其怒，並斬了幾個宮女。自後也就沒有人再說什麽了。禁軍官兵決定在不危害隋煬帝和朝廷的前提下集體逃亡，他們約定在三月望日劫十二衛軍馬， “結黨西歸”。