做了九個月巡撫的海瑞買舟南下，飄然回到了老家海南。以掛冠時的瀟灑決絕，人們以為他從此可能要從道學家變成林下人物，歸隱於老莊門下了。
然而，海瑞卻沒有進入海南的椰林。儒家教育早已經把他定型，注定他跳不出這個藩籬。他在老家買了一所小小院落，在院裏開荒，堂前種樹，圖書滿室，堂上卻掛上“忠孝”二字大匾，遇人則講道學，講如何破榮辱關，破生死關。遇到地方官來訪，則喋喋不休，講民間疾苦，問解決辦法。從海瑞家出來，人們不得不說，此老風骨，一毫未變。
對於海瑞來說，讀書修身就是為了入世濟民。閑居在家，看上去瀟灑自在，其實海瑞的心是十分痛苦的。仕途是士人實現人生價值的唯一途徑，如果不能為世所用，那麽他的生命還有什麽意義呢？雖然歸隱田裏，其實海瑞還是日日期待著有複出的那一天。況且，朝廷批準他辭職的聖旨中有雲：“奉欽依照舊候用。”如果一遇挫折，就憤然出世獨立，獨善其身，那不是聖人之徒的做法。
隆慶六年（1572年），明穆宗突然中風去世，十歲的神宗即位。朝中政局風雲突變，高拱在政治鬥爭中被張居正掀翻，明朝最有能力的大臣之一張居正繼任為首輔。
閑居兩年的海瑞，以為自己的另一個政治春天要來到了。因為這個張居正是翰林出身，飽學之士，學問相當精醇，是海瑞的同道，有著推行聖人之學的共同誌向。況且，海瑞辭職後，時任閣臣的張居正還寫來一封信，對海瑞表示同情：
三尺法不行於吳，久矣。公驟而矯以繩墨，宜其不堪也。訛言沸騰，聽者惶惑。仆謬忝鈞軸，得與參廟堂之末議，而不能為朝廷獎奉法之臣，摧浮**之議，有深愧焉。
信寫得很真誠也很聰明。身為內閣成員，他卻不能為海瑞說上什麽話，真是慚愧呀！為什麽身為內閣成員卻沒有發言權呢？那自然是因為高拱的跋扈。所以，矛盾在於高拱，與他張居正無幹。