1036年8月，範仲淹帶著熱誠執著的心來到饒州（江西鄱陽）任所。饒州在鄱陽湖邊上，範仲淹從開封走水路到饒州，沿途要經過十幾個州縣。由於他得罪了朝廷權貴，除揚州外，所經州縣地方官員都不敢出麵接待，但他毫不介意。在途中還賦了一首詩《郡齋即事》：
三出專城鬢似絲，齋中蕭灑勝禪師。
近疏歌酒緣多病，不負雲山賴有詩。
半雨黃花秋賞健，一江明月夜歸遲。
世間榮辱何須道，塞上衰翁也自知。
範仲淹自幼多病，許多年來又一直過著清苦的生活，再加上處理政務勞累過度，因此他患上了肺病。由於他被貶，妻子李氏受到驚嚇，加之來饒州的路途十分艱辛，不久，李氏就去世了。同甘共苦的妻子離開塵世，範仲淹悲痛了很長一段時間。後來，寫了“愁腸已斷無由醉，酒未到，先成淚”之類的詩句來懷念妻子。
此時，在附近任縣令的文友梅堯臣特地寄來詩詞勉勵他，這給了範仲淹極大安慰。
範仲淹從喪妻之痛中走出來，立刻投入到當地政務中去。他充分了解當地的情況後，決心減少雜稅，嚴明法令。
當時鄱陽湖積水成災，沿湖一帶的城牆皆被衝毀，而且在修複時屢砌屢塌。範仲淹先是實地調查，又訪問了許多百姓，最後製定“河中淘金”的方法，就是在城牆周圍挖坑排水，再用糯米蒸熟後摻拌石灰砌石塊，加固城基，坍毀的城牆很快修複了。
範仲淹又修葺州內先賢祠坊，為有德行的人樹碑坊。在城內德化橋，豎起我國古代三大賢母之一——陶侃之母湛氏的故址巨碑。西晉大將軍陶侃幼年喪父，家境貧寒，陶母湛氏常告訴他結交朋友要以誠相待。一年冬天，陶侃年少時的朋友鄱陽孝廉範逵來訪。一時之間，家裏拿不出像樣的東西來招待客人，陶母隨即入室，剪掉自己的頭發拿去變賣，換來酒食款待範逵。陶母又把冬天鋪床用的稻草編織的墊席拿去剁碎，用來喂範逵的馬。立先祠，樹德坊，對弘揚正氣，扭轉頹風，起了積極作用。當然，範仲淹依舊不忘發展教育，他找到一個地方準備建學堂，結果還沒有開工就被調走了。