朱升輔佐朱元璋的時間並不長，也就十多年，但卻居功至偉。可以毫不誇張地說，沒有朱升，就沒有朱元璋的今天，所以，當朱元璋打下江山，跟著他享幾天福，也是應該的。
然而，朱元璋剛當上皇帝，朱升就不想幹了，並且於洪武二年二月正式“請老歸山”（《翼運績略》）。深感意外的朱元璋多次挽留，並“欲賜以爵土”，朱升還是毫無留戀之意，“固辭不受”。
按規定，爵位是可以世襲的，雖然朱升當時年紀大了，爵位對他意義不大，但是可以為後人造福啊，可是他根本“看不起”這個爵位，打死也不要，“臣後人福薄，不敢叨天恩也”。
是他真的不想要嗎？不是，是他覺得拿著是個禍害，他怎麽可能要一個禍害呢？
他之所以萌生退意，而且去意已決，也是因為不信任朱元璋的為人。
早在幾年以前，朱升就觀察到朱元璋猜忌多疑，對任何人都不放心，而且為人殘暴。比如在他準備登基的時候，跟了他十多年的國子博士、儒士許存仁想辭職，這麽一點小事，卻觸怒了朱元璋，竟以“忤旨”之罪把人家“逮死獄中”（《明史》卷一百三十七《許存仁傳》）。
朱升也曾不小心惹得朱元璋不高興，而這事更小——比芝麻還小已經夠小了吧，朱升惹火朱元璋這事兒，卻是比細菌還小：
有一次，心血**的朱元璋讓朱升帶樂舞生（舉行郊社之祭及祀孔典禮中的樂生和舞生的合稱）去見他，“奏雅樂閱試之”，大概是想檢驗一下他們的水平怎麽樣。結果檢驗的不是樂隊成員，而是他自己——假充內行的他親自演奏一種名叫石磬的打擊樂器，命朱升辨五音。這下壞了，當朱升誤把宮音弄成了徵音之後，朱元璋的臉一下子拉了下來，對他橫加指責，還順帶把其他讀書人羞辱了一番：近世儒者鮮知音律之學（《明太祖實錄》卷二十四）。幸虧有人極力打圓場，朱升才沒挨板子。