劉伯溫投奔朱元璋之初的幾年，主要是承擔軍師的角色。他每獻一計便成一事，因此深得朱元璋信任。朱元璋對劉伯溫說：“先生有至計，勿惜盡言。”每逢軍國大事，朱元璋有吃不準的地方，必然會請教劉伯溫。他從來不叫劉伯溫的名字，而是尊敬地喊“老先生”。劉伯溫比朱元璋大了十幾歲，在輩分上喊他老先生不為錯。但這個稱呼跟年齡沒有關係，那時，在朱元璋的集團裏，誰都知道，朱元璋把劉伯溫當老師來對待。
投奔朱元璋之前，劉伯溫閑居故裏時，曾寫過一首五律《題太公釣渭圖》：
璿室群酣夜，磻溪獨釣時。
浮雲看富貴，流水淡須眉。
偶應非熊兆，尊為帝者師。
軒裳如固有，千載起人思。
可見劉伯溫不但羨慕薑太公，更是以薑太公自居。他希望能碰到周文王這樣的人。他樂意當一名帝者師。
關於他為朱元璋出謀劃策指點迷津的故事，無論是明代的正史和野史，都有諸多記載。在這裏，我想說說最有代表性的兩件事。
第一件事是鄱陽湖大戰：
至正二十四年（1364），朱元璋即吳王位後，與漢王陳友諒大戰鄱陽湖。這場大戰本可避免，皆因朱元璋不聽劉基勸告，撤離南昌而馳援安豐。陳友諒聽說後，立即出兵欲奪取南昌。朱元璋聞訊後對劉伯溫說：“不聽君言，幾失計矣。”於是迅速回兵截擊，與陳友諒的部隊在鄱陽湖相遇。其時，陳友諒的軍事實力超過朱元璋，如果朱元璋此役失敗，就會失去問鼎皇位的機會。在這場關乎生死存亡的慘烈大戰中，劉伯溫始終與朱元璋同坐一條船上，須臾不離左右。戰鬥打到第三天，朱元璋正坐在旗艦的胡**督戰，坐在他身旁的劉伯溫突然一躍而起，拽著朱元璋說：“走，快走！”朱元璋不明就裏，也不及細問，隻得跟著劉伯溫迅速撤到另一艘戰船上。還沒坐定，隻見一發炮彈“嗖”地落在先前的旗艦上。在一團巨大的火光中，旗艦被炸成碎片。朱元璋頓時大驚，心中已是非常感謝劉伯溫的救命之恩。