張居正離開翰林院後，朝廷依然腐敗、陰暗。嚴嵩的貪婪是無止境的。朝廷在他的掌控下，風氣越來越糜爛，因此暗地裏反對嚴嵩的大臣也逐漸增多。當然，嚴嵩沉浸自己的虛榮中，並沒有發現這些現象。
嘉靖三十六年（1557年），告病三年的張居正回到了翰林院供職，因為他無法看著朝廷繼續腐敗下去。回歸朝廷的張居正已經不是那個意氣用事的年輕人，朝廷的險惡讓他變得成熟，也使他學會了遇到事情如何隱忍不發。張居正的恩師徐階也經常教導他“內抱不群，外欲渾跡”的為官道理。不可否認，徐階在張居正的仕途中起到了非常大的作用，他不僅是張居正的恩師，也是張居正為官之路的引路人。
徐階，鬆江華亭人。早年的徐階非常擅長詩文和書法。嘉靖二年（1523年），徐階考中探花並進入翰林院任職編修。《明史·徐階傳》中記載，剛入朝廷的徐階愛憎分明，遇到看不慣的事情就喜歡發牢騷。而當時的嘉靖皇帝剛剛繼位，滿腔熱血的嘉靖皇帝要徹底整頓明朝風氣，其主要的做法就是廢去了老夫子“大成至聖文宣王”的稱號，隻稱呼老夫子為“至聖先師”。
徐階對嘉靖皇帝的做法十分不滿，並因為這件事情惹怒了嘉靖皇帝以及當時的內閣大學士張孚敬。張孚敬雖然為官十分清廉，但是心胸特別狹窄。徐階得罪他後，沒過多久就被貶到延平去做地方預審科長。
當時的延平民風非常亂，很多人都偷盜。徐階到任之後開始整頓民風。在他的整頓下，很快一百多巨盜被捕獲。徐階雷厲風行的手段十分有效，很快大家都聽說了徐階這個人。而徐階在延平一待就是十年，而這十年中也潛移默化地影響了他，使他變得圓滑老練。一次偶然的機會，當時身為首輔大臣的夏言認識了徐階，並對徐階這個人非常賞識，因此有意栽培他。後來，徐階便因為政績較為突出而被一次次地升官：先被升為黃州的同知，接著又升為浙江按察僉事，然後又被晉為江西按察副使，同時還擔任浙、閩兩個省的學政。嘉靖二十年（1541年），徐階再次被調回了朝廷，任職國子監祭酒。兩年以後，被升為禮部侍郎，隨後又晉為吏部侍郎。那時徐階以一副和和氣氣的態度對待所有人，因此在朝廷中的口碑十分好，而他的一些下屬也經常稱他為“願為用”。另外，因為徐階也寫得一手好青詞，所以他深得嘉靖皇帝喜愛。其實，夏言在死前就意識到嚴嵩的狡詐，但是事情已經到了無法挽回的地步，於是夏言轉而提拔徐階，他認為在自己的得意門生中隻有徐階可以與嚴嵩對抗。而夏言的死也讓徐階了解到嚴嵩的心狠手辣，但是那個時候的徐階還沒有實力與嚴嵩對抗。