林礪儒，原名林繩直，1889年7月18日出生於廣東省信宜縣北界鎮結坡上村的一個書香人家。祖父林兆蓉是同治庚午科舉人；父親林達是秀才，因鼠疫早逝。林礪儒4歲喪父，母親又身患癲癇，是祖母將其養大，伯父林鴻和叔父林適幫他完成了啟蒙教育。叔父林適也是秀才出身，曾入廣雅書院學習，頗有學問，又擅長書法，外出教學時總把林礪儒帶在身邊。叔父經常吟誦孟子“得天下英才而教育之，三樂也”，這促使林礪儒從小就萌生了從事教育事業的信念。伯父林鴻本是廩生，後不願出仕留在家鄉。林鴻專門聘請了一位家庭教師來教林礪儒，並經常檢查他的學習情況，對他要求十分嚴格。伯父對他的影響巨大，直到晚年林礪儒仍感念不已。1905年，林礪儒進入高州高郡中學堂讀書。1911年，他以優異的成績畢業，應信宜縣中義學堂的聘請到該校任教。同年又參加了公費留學日本的考試，選報了東京高等師範學校，抱定了終身服務教育的決心。1918年3月，林礪儒從日本學成回國，次年4月來到北京高等師範學校任教，此後終其一生，一直堅守教育崗位，是名副其實的“最有恒心”的教育家。