拿下福州，朱元璋積極準備攻打平江，平江是張士誠的棲身之所，劉基建議朱元璋起用降將李伯升。朱元璋有一絲猶豫，他介意李伯升是否誠心為他效命，劉基舉手保證能說服李伯升。
此時的李伯升還關在獄中，主要就是因為不願屈服，而朱元璋也有惜才之心，沒有別的辦法安置，隻好先關在獄中。
劉基突然出現，李伯升就知道找他肯定有事，一說要他攻打平江，李伯升從地上跳起來，指著劉基大聲喊，“我看你是老糊塗了，要我攻打大帥，我死也不願意。”
劉基不慌不忙地解釋，“李將軍先不要動怒，先聽我說。”
李伯升撇嘴，一屁股坐在地上。
劉基先問：“現在天下亂成這樣，總需要出來一個人平定是不是？”
李伯升沒好氣，“是又怎麽樣？”
“那你覺得你的張大帥有能力平定天下嗎？”劉基伸著頭，期待李伯升的回答。
但李伯升不答。
劉基笑，“連你都覺得張大帥沒有能力平定天下，誰還會幫他呢？”
李伯升看著劉基說，“大帥隻是駐守平江，不礙朱元璋打天下。”
“話雖如此，但意義不一樣，如果張士誠願意投降，大王就會答應對他封官封侯，到時候他可以名正言順的駐守平江。”
李伯升皺眉，“為什麽一定要這樣呢？”
劉基回答，“因為一個完整的國家是不允許分割的，要統一，張士誠就一定要投降。”
李伯升搖頭，“但是大帥對我不薄，讓我攻打平江，我做不出來。”
“你是跟隨而去，然後盡可能的說服張士誠，隻要你能說服他，他就不用死了，你也報了恩，何樂而不為呢？而你自己也不想一輩子蹲在這獄中吧？”劉基繼續開導。
“這……”李伯升還在猶豫。
劉基拍拍他的肩膀，“不要再猶豫了，張士誠是生是死，全在你的一念之間。”