大業十三年(617)是多事之秋，隋煬帝避居江都，李密稱雄中原，在各地農民起義風起雲湧之際，地主豪強官僚貴族也紛紛起兵。貴族官僚起兵目的性十分明確，就是要爭奪天下，當皇帝，而其中最引人注目的則是關隴勳貴李淵的太原起兵。
隋煬帝既不能控製天下政局，隻能是引致天下英雄競折腰。在李密大鬧中原之時，李淵也坐不住了。李淵的出身背景和李密十分相似，祖父李虎為西魏八柱國之一，屬關隴勳貴最高門第，最顯赫的貴族之家。
李淵的父親李曬在北周曆官州刺史和總管， "為政清簡，甚獲當時之譽”,雖無赫赫戰功，但襲父爵身份顯貴。李淵生於周武帝天和元年
(566),七歲襲祖爵為唐國公，年長後“倜儻豁達，任性真率，寬仁容眾”。入隋後補千牛備身，累遷譙州、隴州、岐州三州刺史，官雖不顯，但隋文帝後獨孤伽羅乃李淵的親姨媽，皇後對他“特見親愛”。李淵是隋煬帝的親表哥，比隋煬帝年長兩歲。另外，李淵之妻竇氏還是北周武帝宇文邕的外甥女，嶽母是武帝的姐姐襄陽長公主，乃宇文泰之女。據說，周武帝對竇氏“特愛重之，養於宮中”。看來，李淵家族自北周至隋都處在皇親國戚的地位。
隋煬帝即帝位後，改任大表兄李淵為滎陽、樓煩郡太守，後征入殿內少監。大業九年(613),遷官衛尉少卿。征討高句麗之役，隋煬帝讓表兄在懷遠鎮(今遼寧新民南)督運糧草。楊玄感發動叛亂，隋煬帝又詔表兄馳驛西鎮弘化郡(治今甘肅慶陽縣),兼知關右諸軍事。李淵以“隋室之近親”,開始執掌兵權。
時天下已亂，各地農民起義蜂起， “李氏當為天子”的讖言四處流行，隋煬帝“多所猜忌”,借故處死親外甥女婿李敏，將隋立國第一功臣李穆的後人滿門抄斬，使“人懷疑懼”。對於手握重兵的李姓大表兄，隋煬帝亦不能不有所戒心，於是即詔征李淵詣行在所，李淵心驚肉跳不敢即往，借口遇疾未謁，其外甥女王氏時在後宮，隋煬帝問： “汝舅何遲?”王氏以疾對，隋煬帝竟問死得了死不了，李淵“聞之益懼，因縱酒沉湎，納賄以混其跡”,為保全性命於亂世，皇親國戚也不得不韜晦。