1928年7月，南京國民政府大學院(教育部)決定改建武昌中山大學(原武昌高師)為國立武漢大學，大學院院長蔡元培任命李四光、王星拱、葉雅各、張難先、石瑛等人組成“國立武漢大學”新校舍建築籌備委員會，李四光為委員長，農學家葉雅各為秘書，負責籌備和建築新校舍。
1929年，李四光的好友王世傑正式出任國立武漢大學校長，他在就任演講中說：“武漢大學不辦則已，要辦就要辦成一所有崇高理想的一流水準的大學。”他提出要把武漢大學辦成一所擁有“文、法、理、工、農、醫”六大學院的綜合性大學，規模要達到萬人以上。這在當時是一個極其宏偉的理想。
李四光投入了緊張的選址工作中。他和葉雅各帶著幹糧，騎著毛驢一次次地出城選址。1928年10月，一個陽光燦爛的星期天，當他們來到武昌郊區東湖羅家山一帶時，李四光立刻看到了若幹年後的美景！他激動地從毛驢上跳了下來，一遍一遍地說：“沒有比這更合適的校址了！沒有比這更漂亮的地方了！”
羅家山過去是墳山，主人姓羅，故名羅家山。此時，周遭盡皆荒山野嶺，一片淒涼。後來，受命為文學院院長的聞一多給平庸俗氣的羅家山換了一個韻味無窮的名字，此即一直延續至今的“珞珈山”。
選址定下來後，民間立刻響起很大的反對聲，很多人到省政府請願，說“祖墳山不能建大學”。最激烈的時候，老百姓揚言要挖王世傑的祖墳。但王世傑、李四光認為這個地方如果不建大學就愧對後人，尤其是王世傑，他冒著風險，力排眾議，果斷派學生把路邊的墳一夜之間全部遷掉。最終，經過李四光、王世傑等人的斡旋捭闔，此事得以圓滿解決。
之後，李四光親赴上海，請來國際一流建築師凱爾斯，擔任新校園建築規劃總設計師。凱爾斯精通中西建築，為清華大學做過設計，時年58歲。他敬畏這座山，每天在山上不停地轉，有時會靜默地站在某處，一站就是幾個小時。半年後，凱爾斯拿出規劃設計圖。原本，羅家山土薄缺水，不適合民居。凱爾斯設計的建築化腐朽為神奇，根據中國傳統建築的“軸線對稱、主從有序、中央殿堂、四隅崇樓”的原則，並巧妙利用珞珈山地形，完成了非常優美宜居的武漢大學新校舍的設計。