隨著戰況惡化，臨時大學又一次麵臨遷徙的曆史抉擇。以梅貽琦為主席的常委會經過反複研討，最後決定遷往雲南省會昆明市，並正式組建了足以標榜青史、永垂後世的西南聯合大學。
根據國民政府指令，原臨大常委蔣夢麟、梅貽琦、張伯苓等三人被任命為國立西南聯合大學常委，共同主持校務。為鼓勵師生精神，堅持文化抗戰的決心，表達中華民族不屈的意誌，西南聯大以“剛毅堅卓”四字作為校訓，並同時選定由聯大文學院院長馮友蘭用《滿江紅》詞牌填寫的歌詞、清華出身的教師張清常譜曲的詞曲作為校歌，歌詞為：
萬裏長征，辭卻了，五朝宮闕。暫駐足，衡山湘水，又成離別。絕徼移栽楨幹質，九州遍灑黎元血。盡笳吹，弦誦在山城，情彌切。
千秋恥，終當雪。中興業，須人傑。便一成三戶，壯懷難折。多難殷憂新國運，動心忍性希前哲。待驅除仇寇，複神京，還燕碣。
這是一曲20世紀中國大學校歌的絕唱，它凝聚了中國文人學者、莘莘學子在民族危難時刻最悲壯的呼喊，濃縮了聯大師生在國危家難之際所具有的高尚情操和堅強意誌。從此，西南聯大的歌聲響起，激昂的旋律震動校園內外，感染著一代又一代新生，激勵著不同職業的中華兒女共赴國難，奮發圖強。
1938年5月4日，國立西南聯合大學正式上課。但是由於經費緊張，校舍簡陋至極，據工學院航空係學生梁維綸回憶說：在昆明拓東路的工學院，“宿舍是一個由倉庫改裝，房中排滿了雙層木床，臭蟲繁殖特快，深受其苦。上課教室是由附近的一個會館舊址改裝，一切因陋就簡。有個大班教室，是利用會館中的一個正殿改裝，並無隔牆，倒也通風涼快。某日上課，記得是劉仙洲教授講授‘機械學’，那時風雨交加，冷不防雨水侵入，淋了劉教授一身，班上同學對此突**況尚在發呆之際，劉教授卻自我解嘲，笑著說：‘前不久重慶友人來信問以此間上課情形，我回信告以一切滿意，風雨無阻。這就是我們在聯大讀書了不起的地方，你們看是不是‘風雨無阻？’引得全班一片笑聲”。