20世紀50年代以前，雖然“素質教育”一詞未見正式文件，但提高教育質量、提高國民素質是中央領導和各級教育部門經常關注的問題。1985年5月19日，鄧小平在全國教育工作會議上指出：“我們國家，國力的強弱，經濟發展後勁的大小，越來越取決於勞動者的素質，取決於知識分子的數量和質量。”1985年5月27日發布的《中共中央關於教育體製改革的決定》明確指出：“在整個教育體製改革的過程中，必須牢牢記住改革的根本目的是提高民族素質，多出人才、出好人才。”1986年頒布的《中華人民共和國義務教育法》第3條規定：“義務教育必須貫徹國家的教育方針，努力提高教育質量，使兒童、少年在品德、智力、體質等方麵全麵發展，為提高全民族的素質，培養有理想、有道德、有文化、有紀律的社會主義建設人才奠定基礎。”以後其他許多文件都提到提高民族素質的問題。“素質教育”的提出是我國教育發展到一定階段提出的質量要求，也是時代的要求。
從20世紀80年代中期開始，中國大地掀起了一股股教育改革浪潮。特別是鄧小平“教育要麵向現代化，麵向世界，麵向未來”的題詞發表以後，許多學校都以此為指針，進行教育改革，各種教育改革實驗如雨後春筍般發展起來。在全國比較有影響的有北師大一附小、上海師範附小等7所學校開展的愉快教育，上海閘北八中開展的成功教育，南通師範附小李吉林的情境教育，武漢江岸區的和諧教育等。這些教育改革實驗都是為了尋求提高學生素質，使學生生動、活潑、主動地發展的最佳教育模式。