晉陽起兵後，為了師出有名，李淵散發檄文給諸郡，稱自己隊伍為“義兵”。但也遭到了某些隋朝地方勢力的抗拒，如“太原遼山令高斌廉拒不從命”,並派遣使者星夜趕往江都，向隋煬帝奏報李氏父子舉兵的事。隋煬帝本就忌恨李淵據有太原，聽到奏報後，非常害怕，於是下令“東都西京，嚴為防禦”,以防李淵勢力的進一步擴大。
西河郡亦不順從李淵。晉陽起兵後的行動決策是非常明確的，那就是要乘虛入關，直取長安，以便控製關中、隴右以爭天下。麵對隋地方勢力的抗拒，李淵的政治頭腦非常清醒。他分析當時的形勢說： “遼山是守株待兔可得的，不值得焦慮；西河繞山的路是我們必經之地，不能放棄。”李淵要揮師南進，必經西河郡，為了掃清道路，必須首先攻下該地。這也是起兵之後的第一個戰役，其成敗影響甚大。
於是在大業十三年(617)六月，行前，李淵對李建成、李世民說：“你們年少，沒經過大事，先把這個郡的攻克作為你們的表現，你們應當盡力。”李建成、李世民表示，如不能取西河，願受軍法處置。當時，因義兵初舉，軍隊未經訓練，李世民等人恐兵士不能賣力攻取，故以軍法嚴律。
“三軍聞者，人皆自肅。”這次出兵，李淵還命令太原令溫大有與他們同行，並對溫大有說： “士馬尚少，要資經略，以卿參謀軍事，其善建功名也!事之成敗，當以此行之。若克西河帝業成矣。”這次出師西河，李建成、李世民迅速攻克該郡，這就更加堅定了李淵進兵關中的決心。師回之日， “即定入關之策”。
李淵西攻關中，除了正麵的隋軍外，還麵臨著左側東都洛陽附近李密的威脅。李密領導的瓦崗軍，共有幾十萬人，所部兵士多是漁民獵戶出身，善用長槍。通過戰爭，他們獲取了隋王朝大批的良馬，裝備精良，同時又擁有洛陽周圍的好幾個大糧倉，可以說是糧餉充足，因而成為中原地區，也可以說是全國實力最強、影響最大的一支起義軍力量，具有舉足輕重的作用。