大業十二年（616），李密經過瓦崗軍將領王伯當的介紹，來到瓦崗寨入夥。
之前，李密在邯鄲逃脫後，先投奔位於平原的郝孝德。郝孝德不清楚李密的身份和價值，對李密一點也不重視。當時各部混戰，大家都沒飯吃，郝孝德的軍隊也窘迫到削樹皮為食的地步。李密判斷郝孝德沒有前途，便脫離隊伍，繼續逃亡。他到達淮陽後，找了一個村子落腳，改名為劉智遠，當起了教書先生。可李密壓根就不是能靜心隱居的人，內在勃勃的野心難以抑製。隻教了幾個月的書，李密就鬱鬱不得誌，寫了一首五言詩：
金鳳**初節，玉露凋晚林。
此夕窮塗士，鬱陶傷寸心。
野平葭葦合，村荒藜藿深。
眺聽良多感，徏倚獨沾襟。
沾襟何所為？悵然懷古意。
秦俗猶未平，漢道將何冀！
樊噲市井徒，蕭何刀筆吏。
一朝時運會，千古傳名諡。
寄言世上雄，虛生真可愧。
李密懷才不遇，將滿腹的委屈都寫了出來，盼望能夠像樊噲、蕭何一樣日後成為開國元勳。李密邊寫邊哭，被很多人看到了。有人覺得他太不正常，密告了淮陽太守趙他。趙他猜測所謂的劉智遠可能是某個改名的重要欽犯，組織人力要捉拿李密。李密再次逃亡，去投靠妹夫、雍丘縣令丘君明。丘君明收留了李密，但他的侄子丘懷義卻向朝廷告密。楊廣親自安排人力，秘密逮捕李密。李密又一次逃脫，丘君明則被捕遇害。亡命天涯之餘，李密放眼天下，決定借助某個已經大有規模的武裝力量實踐滿腹經綸，剛好他認識瓦崗軍的王伯當。最終，李密和瓦崗軍“雙向選擇”成功。
李密這樣有膽有智的世家貴族子弟加入了農民紮堆的瓦崗軍，給瓦崗軍的發展帶來了質的飛躍。有曆史學家認為瓦崗軍從此由農民革命武裝，轉變成了地主武裝。事實上，鬆散的農民武裝要想長遠發展，必須要有組織、有製度，由內到外進行規範化改造。因此，李密來到瓦崗寨，更準確的意義是他向瓦崗軍灌輸了一套有效的政治製度和思想，將這支部隊轉化為問鼎天下的強大武裝。