張國燾係江西萍鄉人。一九一六年考入北京大學理預科學習，後轉入哲學係讀書。因受李大釗、陳獨秀等人的影響，對馬克思主義產生興趣，成為五四前後宣傳共產主義的活躍分子，一度出任北京大學幹事會副主任兼總務主任，積極參加並領導了五四愛國運動。不久，參加李大釗發起的馬克思研究會，並參與醞釀籌建中國共產黨，是北京共產主義小組的發起人之一。在這期間，他致力於京漢鐵路工人運動，參與創建了長辛店勞動補習學校和長辛店俱樂部。一九二一年七月，他作為北京共產主義小組的代表，出席了在上海召開的中國共產黨第一次代表大會，被推舉為大會主席，主持了這次會議，並被選為中央委員，分管組織。會後任中國勞動組合書記部主任。
一九二三年六月，在黨的第三次代表大會上堅持反對中國共產黨全體加入國民黨和在職工運動中發展國民黨的主張，與毛澤東等人發生激烈衝突，未被選入中央委員會。由於他當時的影響，以及他在國共合作立場等方麵有所改變，在國民黨第一次全國代表大會上被選為候補中央執行委員。不久回到北京，於同年五月被北洋政府逮捕，遂叛變自首；後因馮玉祥發動北京政變，獲釋出獄。在黨的第四次代表大會上當選為中央執行委員，任工農部主任。
大革命失敗之後，張國燾作為中央代表赴南昌，曾試圖阻止八一南昌起義，與周恩來等發生矛盾。南昌起義失敗之後，他又輾轉到達莫斯科，出席黨的第六次代表大會，被選為中央政治局委員，留任中共駐共產國際代表團副團長。一九三一年春，在黨的六屆四中全會閉幕不久，他回到上海，被派往鄂豫皖根據地，出任分局書記兼軍委主席，因推行王明路線，大搞肅反擴大化，造成嚴重後果。後因沒打破蔣介石對鄂豫皖的第四次“圍剿”，被迫轉入川陝地區。誠如前文所述，他又於一九三五年三月擅自決定放棄川陝根據地，西渡嘉陵江。所幸，此時紅四方麵軍的先頭部隊已與中央紅軍於夾金山下會師。