弘治十七年（1504年）九月，王陽明又被轉任為兵部武選清吏司主事，負責選拔武官的考試，於是回到京師赴任。
當時的學者都沉溺於詞章記誦之學，而不知身心修行之學為何物。於是王陽明開始講學，希望借此啟迪大家的心智，讓他們樹立聖人之誌。聞者興起，已有人願意拜到他的門下，希望跟隨他學習。
王陽明竭盡誠意去提倡聖賢之學，但當時的很多學者因為沉溺於記誦之學和口耳之學太深，反而批判王陽明是在提倡異端，是在為自己博取聲名。
唯獨翰林院庶吉士湛甘泉理解王陽明的心思。兩人一見如故，終日暢談，最終成為莫逆之交，共同致力於複興聖學，從此終生未改其誌。後來，在王陽明去世以後，湛甘泉還特意為其寫了墓誌銘。
在王陽明歸於聖學以後，也就是在這一時期，曾作過一首題為《贈陽伯》的詩，其中寫道：
陽伯即伯陽，伯陽竟安在？大道即人心，萬古未嚐改。長生在求仁，金丹非外待。繆矣三十年，於今吾始悔！