在扳倒嚴嵩這件事中，張居正也作了很多努力並且學到了很多東西。張居正在恩師徐階身上學到了“隱身存身”的道理，這對他以後的輔政之路也起到了一定的幫助。
嘉靖四十三年（1564年），身為內閣第一首輔大臣的徐階推薦張居正進入右春坊右渝德，同時張居正兼任國子監的官職。明朝的國子監分為祭酒和司業兩個官職。而張居正所任職的司業的主要的職責就是負責國子監內的所有教學以及行政事務。這個職位使張居正認識很多將來官場中的人才，這也為張居正廣泛的人脈打好了基礎。
之後，徐階將張居正安排到皇子身邊做侍讀，也就是平日陪皇子讀書作畫。雖然這個官職不大，但是卻十分重要。張居正侍讀的皇子是最有可能繼承皇位的裕王朱載，這也為張居正的仕途打下了基礎。
在裕王府侍讀期間，裕王朱載十分看重張居正，因為張居正是一位知識淵博的人，而裕王也十分喜歡聽張居正講讀。裕王府中的下人對張居正也十分尊重。據說，張居正每次給裕王講課的時候，由於詞句講解得十分到位，裕王每次都是目不轉睛地望著老師，這代表裕王對張居正的無上的敬意。而裕王府內的內侍大太監李芳對張居正也十分崇拜，經常請教張居正一些書中的道理，而他們的談話也往往涉及到天下大事。
嘉靖四十五年（1566年），張居正正式掌管翰林院。同年十二月，整日癡迷於如何長生不老、大肆煉丹的明世宗駕崩了。裕王朱載順利繼位，他就是明穆宗。張居正以裕王舊臣的身份被提升了官職，正式被任命為禮部左侍郎。但是，張居正沒有正式任職，而是借這個跳板再次升職為文淵閣大學士。隆慶元年（1567年），張居正四十三歲，這時他正式進入了內閣成為內閣輔臣。
在裕王府，除了內侍大太監李芳之外，張居正還結識了另外一個不平凡的人物，名叫高拱。