1966年5月，吳晗被正式揪出來為長達十年的“**”開刀祭旗了。他幾乎每天都要接受揪鬥，飽嚐難以忍受的痛苦與屈辱。當時八歲的兒子後來在回憶文章中寫道：“我永遠忘不了他們把爸爸跪綁在烈日下的枯樹幹上，往他脖子裏灌曬得滾燙的沙子。他們掄起皮帶抽他，揪他的頭發，擰他的耳朵，用各種想得出來的法子侮辱他。爸爸三天兩頭被拉去遊鬥，學校要鬥，區裏要鬥，縣裏要鬥，這裏要鬥，那裏也要鬥。”
在批鬥之初，吳晗全家住在北長街原來的住處，但後來被掃地出門。紅衛兵勒令他和妻子袁震每天到北長街掃街道，並且隨時把他們夫婦揪出來侮辱。酷暑烈日下，吳晗被拖到馬路上，跪在粗硬的瓦礫上，遭受殘酷的毒打。每次爬起來之後，都是膝蓋皮膚劃破，鮮血染紅雙腿和土地。而這時的吳晗，一拐一瘸地回到住處，擦去身上的血跡，便拿起毛澤東主席簽名送他的著作來看。但他越看越覺得自己委屈，不知道自己的一片赤誠之心，為什麽會遭到如此的報應。
1949年1月31日，北平和平解放。當人民解放軍舉行浩大的入城儀式時，吳晗隨同一些黨、政、軍負責人一起參加了這一隆重儀式。幾天之後，他和錢俊瑞等人受黨中央之托，接管北京大學、清華大學，同時被任命為清華大學曆史係主任、文學院長、校務委員會副主任等職。
由於地下黨事先做了大量工作，清華大學的絕大部分師生都留在了學校。新中國成立後，吳晗曾經對一起搞民主運動的地下黨人說過：“你們如果工作做好了，還是可以把胡適留下來的。”實際上，早在解放前夕，吳晗在上海和北平都親自試圖爭取在學術上曾給過自己很大影響的胡適留下來，但都沒有成功。1946年，吳晗親自到北大去見胡適，結果是話不投機，恩師與高徒隻談了兩句就僵持起來。後來胡適對別人說：“吳晗可惜，走錯了路。”而吳晗卻認為胡適走錯了路。