宇文化及失敗的同時，李密也開始走向了失敗。
他在擊退王世充後，開始聯合起兵的唐王李淵。
李密倚仗自己的強大，想當各路兵馬聯盟的領袖，當下寫信給李淵，稱兄道弟的，要求聯合起來推翻楊隋朝廷，大致意思是說想跟李淵像周武王那樣在孟津聯合八百諸侯，在牧野誓師殺掉商紂王，又像漢高祖那樣在鹹陽拘捕秦始皇的孫兒子嬰，主要意思是殺掉後主楊廣，抓住代王楊侑。
至於他自己呢，就是周武王和漢高祖了！
李淵讀罷之後，笑著說：“李密囂張放肆，不能夠隨便回信。我剛剛平定長安，還沒有功夫東征，馬上跟他斷絕關係，就是又多了一個強大的對手。如今正好用李密來替我抵抗洛陽的隋軍，把守虎牢那樣的要道，另外去找韓信、彭越那樣的將領，不如利用李密。應當用謙恭的言詞推崇頌揚他，使他更加驕傲，對我不予提防。等我進了函穀關，依托蒲津關駐守永豐倉，以東西崤山和函穀關為後盾去進攻伊水、洛水，我開創基業的大事就成功了。”他說完，命令記室溫大雅寫信答複李密說：
“近來，江山狼煙滾滾，四海不得安寧，華夏變為廢墟，黎民遭受困苦。百姓充當兵卒，鋤頭作為武器，一個個爭奪霸主想當帝王，就像那群狐喧囂群蜂飛舞。莊嚴雄偉的東都洛陽，遭受強兵圍攻；肥沃富饒的中原土地，躺滿餓死的屍體。皇上到南方巡視，根本無法回到京城；匈奴在北邊強盛，將會侵占中原。皇上不考慮這些，臣下也不敢說話，野心家篡奪帝位，沒有誰敢斥責。突然弄到這步田地，是自己留下這樣的憂患，七百年的基業，兩代就完結了。北周、北齊以前，自有文字記載以來，國家淪落，還沒有像這樣慘痛的。上天養育百姓，必然安排主宰，當今勝任主宰的，除了您還有誰呢？我已五十多歲，沒有這個念頭，樂意擁戴老弟您，跟隨建功立業。希望您早日順應天意，好讓億萬百姓安寧。到時歸向老弟，請允許我加入李氏家族的名冊；能再次分封到唐城，這種榮耀就令人滿足了！像周武王那樣在牧野殺掉商紂王，我不忍心談起；像漢高祖那樣到鹹陽拘捕子嬰，我還不敢從命。汾河、晉水這塊地方，還等著安撫，舉行聯盟集會，還沒功夫確定日期。現在皇上巡視南方，隻怕是跟西晉懷帝司馬熾一樣走出皇宮就回不來了。環視中原大地，長滿繁茂的野草，感歎油然而生，內心實在愧疚。假如有什麽消息，希望盡快告訴，沒有當麵感受您的情懷，因而給您增添了麻煩。名利場中，刀箭交錯，危險境地要極為謹慎，開創偉業要加倍努力。”