劉邦駕崩於公元前195年，即高祖十二年的四月二十五日，享年六十二歲，葬於長陵，諡號為高皇帝，廟號是太祖。
本來劉邦的年齡就大，四十多歲才起兵，五十多歲才當上皇帝。在平定英布叛亂時，又中了箭傷，回到長安就病情加重了。治療了幾次，都不見什麽成效。
呂後無奈，又找來了一個名醫。劉邦問他病情，醫生說能治，劉邦一聽這人的口氣，就知道自己不會好了，氣得大罵醫生：
“朕以布衣提三尺劍取天下，此非天命乎？命乃在天，雖扁鵲何益！”
說完，賞賜給醫生五十金，打發他走了。
作為一個皇帝，能說出這種話是很令人敬佩的。劉邦在生死問題上表現得十分豁達，命是上天給的，如果注定讓我死，就算找來扁鵲這樣的名醫也沒啥用，所以我就不看醫生了。
劉邦做出了一個決定：拒絕治療。
呂後看著彌留中的劉邦，問他死後的人事安排：“?蕭相國死後，由誰來接替呢？”
劉邦說：“曹參。”
“陛下，曹參之後是誰？”
劉邦說：“王陵可以在曹參之後接任，但王陵的智謀不足，可以由陳平輔佐。陳平雖然有智謀，但不能決斷大事。周勃雖然不擅言談，但為人忠厚，日後安定劉氏江山的肯定是他，一定要用他做太尉！”
這段臨終前的人事安排，再一次向我們顯示了劉邦看人識人和用人的高超水平，能看清手下每個人的優點與缺點，並量才而用。
呂後又追問以後怎麽辦，劉邦有氣無力地說：“以後的事你不會知道了，也不用管了。”
劉邦死在長樂宮後，呂後和審食其四天不發喪，然後秘密地商量：“諸將與帝為編戶民，今北麵為臣，此常怏怏，今乃事少主，非盡族是，天下不安。”
什麽意思呢？兩人有一個擔心，功臣們是劉邦一塊起事的，當年的身份沒什麽不同，現在卻都是劉家的臣子，平時就沒少發牢騷，今後他們伺奉的是一位少主，皇帝年幼，那更了不得，不把他們全殺了，天下不安?啊！