嘉靖元年（1522年）二月十二日，龍山公因急病去世，享年七十二歲。當時，朝廷念及王陽明征剿宸濠有功，於是追封父親龍山公、祖父竹軒公，曾祖父槐裏公為新建伯。
二月十二日，龍山公已經處於彌留之際，但當他聽聞朝廷派來追封的使臣已經到達門口的時候，他催促王陽明及其他兒子趕緊出門迎接，並對他們說：
“雖倉遽，烏可以廢禮？”
直到他聽說已經行完禮後，這才肯閉上眼睛駕鶴西去。
王陽明勸大家先不要哭，將世宗皇帝禦賜的冕服、綬帶及其他一些配飾給龍山公穿戴整齊後，這才舉家慟哭。王陽明悲傷過度，一度哭得昏厥過去，並因此大病一場。
王陽明讓弟子們幫助處理父親的後事，並根據每個弟子的特點分配給他們不同的工作。
仙居縣的金克厚性格恭謹，所以王陽明讓他負責廚**物。金克厚對食材的采買與使用非常嚴謹，如果手底下有人耍鬼的話，他會立刻將此人辭退，廚房內外事務被他打理得井井有條。
全家素食百日之後，王陽明才允許弟弟和侄子們稍稍吃一點幹肉。他對大家說：
“諸子豢養習久，強其不能，是恣其作偽也。稍寬之、使之各求自盡可也。”
吳越之地有這樣一種風俗，居喪期間如果有客人前來吊唁，主人要用糖餅和大魚大肉招待客人，時間久了就演變成互相攀比的風氣。王陽明一改這些陳規陋習，隻有在年事已高的長輩或路途較遠的客人前來吊唁時，他才會在素食中間加兩盤肉。他說：
“齋素行於幕內，若使吊客同孝子食，非所以安高年而酬賓旅也。”
湛甘泉也前來吊唁龍山公，他見到有人在居喪期間竟然吃肉食，很不高興，回去之後就寫信來批評王陽明，王陽明接受了批評，一點也不做辯解。