數學家談數學教育改革，不能隻從培養數學家的角度來看問題。一萬人口中頂多有一兩個數學家，不能用數學家的要求來指導中小學數學教學。我們常常以自己如何走上數學道路的經驗來判斷是非，那是不全麵的。
——吳文俊：《數學教育不能從培養數學家的要求出發》
1946年之後，吳文俊就進入高校當了大學老師，一頭紮進了數學研究的汪洋大海。時至今日已六十餘年。可以說，這六十幾年裏他一直站在數學學科的最前沿，是中國數學事業發展的領跑者。然而，對於那方曾經站過的三尺講台，對於關係重大的基礎數學教育，他不僅從未忘懷，而且還以他那高度的熱情時刻關注著它的發展。
從身份定位來說，吳文俊是一位科學家、數學家，但在他的心目中，教育始終是第一位的，是高於科學的。在2002年鳳凰衛視世紀大講堂節目中，吳文俊這樣談及科學與教育的關係：科教興國，主要是教育，科學是其次，科學是教育的後果，應該是這樣。教育應該放在科學之上，科學當然重要。現在有一些不太正常的，老是盯住諾貝爾獎金不放，這個想法不對。教育上去了、科學上去了，諾貝爾獎金一批一批地出來，你急什麽呢？教育沒有上去、科學沒有上去，這個叫做舍本逐末。這樣睿智深邃的見解，體現了教育在他心目中的地位，不能不讓人信服。
具體到基礎數學教育，吳文俊也有著自己的理念，尤其是對現在中小學方興未艾的奧數培訓，他更讚成同是數學家的丘成桐的觀點，認為“參加數學競賽獲獎是很可貴的，但是不能過分重視。因為它不能代表一名學生對數學的深度理解，也不能有效地訓練數學思維”[3]。丘成桐曾在相關媒體上發表過這樣的言論：“奧數在中國陷入一種盲從狀態，事實上它應該是一種建立在興趣之上的研究性、高層次性學習。小學生基礎知識薄弱，沒有任何研究性思維，他們往往隨周圍潮流、家長期盼而陷入被動學習。中國的奧數教學現狀是學校濫竽充數，學習方法太片麵，過分關注海量題目，直接與考試、競賽掛鉤，對學生係統學習數學不利，作為基礎學科的數學，學習應該是多方麵的，不應當過分功利。”