正德五年（1510年），王陽明三十九歲。是年三月，王陽明抵達廬陵，出任廬陵縣令。王陽明在廬陵的施政方針並不是用刑罰來壓製百姓，而是重在教化人心，通過教育感化來讓百姓信服。
上任伊始，他遍詢縣內老吏，體察各鄉的貧富忠良。廬陵縣民素來喜好訴訟，王陽明就采取各種措施來減少訴訟的數量，簡化訴訟的流程。雖然案頭上積壓了諸種訴狀，但他絕不輕易斷案。他沿襲明初的製度，慎重挑選“裏正三老”，讓他們坐在“申明亭”中，每當有前來訴訟之人，必先由他們去進行調解勸說。很多百姓往往都是帶著怒氣而來，但聽了“裏正三老”的勸說之後，最終打消了訴訟的念頭，涕泣而歸。就這樣，經過一段時間以後，整個廬陵縣的風氣大為改觀。
王陽明在廬陵縣七個多月，發布告示十六回，大抵都是勸誡父老相敬、子弟相親，切勿****邪等。
當時，廬陵城中經常發生火災。王陽明就在城內各處布置消防機，修浚水路，從此杜絕了火患。王陽明在廬陵雖然隻有短短的七個月，但做出的政績卻不少，後世官員紛紛效仿先生的施政方法。
正德五年（1510年）十一月，王陽明入京朝覲。在京期間，寓居在大興隆寺，與湛甘泉和儲柴墟等人一起探討“良知”的奧義。在好友儲柴墟的引薦下，後軍都督府都事黃綰特意前來拜訪王陽明。王陽明問他：
“此學久絕，子何所聞？”
黃綰回答說：
“雖粗有誌，實未用功。”
王陽明又說：
“人惟患無誌，不患無功。”
黃綰深深歎服，最終於嘉靖元年（1522年）春拜王陽明為師。
正德五年（1510年）十二月，王陽明被任命為南京刑部四川清吏司主事。湛甘泉和黃綰怕王陽明一走就不能聽他講學了，於是一起向戶部尚書楊一清求情，請求將王陽明留在北京。