1876—1925年期間，日本學前教育機構有了很大發展。1925年（大正十四年），日本有957所學前教育機構，收容幼兒83000人。直到20世紀初，公立幼兒園在日本幼兒園中一直占據主導地位。
1926年（大正十五年），公立幼兒園為372所，私立幼兒園692所。作為學前教育設施，《學製》規定設立幼稚小學，招收6歲以下的幼兒，但是由於日本的傳統觀念是把教育嬰幼兒的責任完全放到父母的身上，地區居民對學前教育設施的必要性缺乏理解，而一些守舊人士更是鼓噪兒童進入幼兒園會削弱家庭教育，有損親子之情，同時由於經費問題，政府的重點又是放在創建小學上，重視義務教育，對於非義務教育的投資不得不減少，因此，幼稚小學實際上未能及時落實。
1876年，文部省決定成立以培養幼教師資為目的的東京女子師範學校，並建議在女子師範學校內建立附屬幼兒園。於是，日本第一個學前教育機構——東京女子師範附屬幼兒園正式開辦。幼兒園首批招收3～6歲的幼兒75人，依照年齡分班，每班約40個幼兒，大都是達官顯貴子弟；園舍為西洋式建築，庭院寬敞，設備完善；監事（相當於園長）精通英語，首席保姆為德國人。該幼兒園的教育目的表述為：“發掘學齡前兒童的天賦知覺，啟迪其固有的心智，滋補其健全的體魄，使其通曉交際情誼，具備良好的言談舉止。”教育思想、教育內容、教育方法和實際教育工作完全受德國教育家福祿培爾觀點的影響，以“恩物”為教材進行教育，按科目分類教學，開設的科目有：生活、美感和知識等，教師教幼兒遊戲、黏土、繪畫、筷子的操作、唱歌、形狀的了解、剪紙、折紙等。由於這一時期政府尚未通過關於幼兒園的任何法律，因此，這個幼兒園製定的“保育要旨”和“項目”等規則成為各個幼兒園的通用標準被普遍接受，並為後來日本各地成立的幼兒園所仿效。