我是中大出身，當然想把中大辦好，尤其是首都所在地，更要把他辦好，可我搞不來，整天滿腦子中大，廢寢忘食，體重減輕了20多磅。
——吳有訓
到20世紀30年代中期，清華大學物理係已是精英薈萃，在葉企孫和吳有訓的主持下，陸續聘請了周培源、趙忠堯、任之恭、霍秉權等年輕有為的物理學家到校任教，大家團結協作，同舟共濟，一時間，清華物理係成為了當時中國屈指可數的物理學教育和研究的主要中心之一。
1937年7月7日，日本帝國主義發動了侵華戰爭。清華大學與其他大學一樣無法正常辦學，校方根據廣大師生的意見，與其他院校反複商議，決定南遷昆明，並與北京大學、南開大學合並，聯合籌建西南聯大。國家興亡，匹夫有責，吳有訓主動提出擔任西南聯大物理係主任，繼續培養國家需要的人才，以實際行動報效祖國。師資力量缺乏，教學環境惡劣，接踵而來的困難，都沒能打擊吳有訓堅持辦學的意誌。天文學教授張鈺哲在鳳凰山天文研究所工作，他就去聘請張鈺哲來西南聯大執教，張鈺哲欣然應允。當時，張鈺哲胃潰瘍發作，吳有訓得知後，立即親自去請醫生，並且出錢買藥給張鈺哲。物理學家張文裕從英國回國，吳有訓接到信函後，便馬不停蹄推薦他來西南聯大執教。
1945年8月，吳有訓接到了調任的命令，這是蔣介石親自簽署的委任狀，要吳有訓出任中央大學校長。斟酌再三，他勉強接受了這項任命，同時，他為自己定下了“辦教育而決不沉浮官場”，以及“合則留，不合則去，決不苟同”的原則。按照這一原則，吳有訓開始了大刀闊斧的革新。他聲明自己決不當“學府皇帝”，堅決摒除“聽差製度”和學校行政機關化的傾向，實行決策民主化。在用人方麵堅持大公無私，在未摸清底細之前，他對教務、總務和訓導三長以及各院院長、各係主任一律維持不變，並放手讓他們分別擔起責任，發揮主觀能動性去開展工作。