中華人民共和國剛成立時，《中國人民政治協商會議共同綱領》承擔著臨時憲法的作用，但它畢竟帶有臨時性和過渡性。為加快建設社會主義民主政治，毛澤東明確提出要有新型的社會主義憲法和其他法律。
1953年1月1日，《人民日報》在《迎接一九五三年的偉大任務》元旦社論裏，向全國公布當年的三項任務：第一，繼續加強抗美援朝的鬥爭；第二，開始執行國家建設的第一個五年計劃；第三，召集全國人民代表大會，通過憲法。1月13日，中華人民共和國中央人民政府委員會舉行第20次會議，討論召開全國人民代表大會和製定憲法的問題，周恩來作了說明。毛澤東在會上宣布，根據《中國人民政治協商會議共同綱領》的規定，召開全國人民代表大會及地方各級人民代表大會的條件已經成熟了。大會一致通過了《關於召開全國人民代表大會及地方各級人民代表大會的決議》,並決定成立憲法起草委員會，該委員會以毛澤東為主席，以朱德、宋慶齡、李濟深、劉少奇、鄧小平、李維漢等32人為委員。此後，中共中央還指定了由陳伯達、胡喬木、田家英等人組成的憲法起草小組，他們在毛澤東親自領導下，以政務院內務部為主組成憲法起草辦公室，負責相關資料的收集。
然而1953年我國部分地區遭受了嚴重的自然災害。為集中力量戰勝自然災害，也為了有更充足的時間做好普選準備工作，中央人民政府委員會召開會議，決定將全國人民代表大會推遲到1954年召開，因此新憲法的起草開始於1953年年底。為了避開繁雜的事務性幹擾，以便專心起草憲法，毛澤東帶著起草小組於1953年年底前往杭州。這是毛澤東在新中國成立後第一次到杭州。
1954年1月9日，毛澤東正式開始主持憲法起草小組的起草工作。當時，毛澤東住在劉莊一號樓，辦公地點在北山路84號大院30號樓，經常一幹就是一個通宵。為做好這件“立國安邦”的大事，毛澤東要求憲法起草小組認真學習和比較世界上各種類型憲法，拓展視野，博采眾長。