從今天起，你這個教書先生就是一名北伐軍的革命軍人了！
——陳賡：《譚政大將》
在陳賡的介紹下，譚政加入了國民革命軍，並將自己的名字改成了譚政，從此教書先生譚世名就成了軍人譚政，他的命運也在不知不覺中與中國革命的命運聯係在了一起。由於譚政文化程度高，是個小“秀才”，就在特務營擔任文書一職，不久又任國民革命軍第二方麵軍警衛團第二營書記官。可是，就在譚政入伍一個月後，蔣介石在上海發動了“四一二”反革命政變，大批工人和共產黨員遭到迫害，全國陷入白色恐怖中。1927年8月1日，南昌起義爆發，打響了武裝反抗國民黨反動統治的第一槍。9月，湘贛邊秋收起義爆發，譚政隨警衛團參加了起義。這是譚政第一次參加戰鬥，他看到共產黨員衝鋒在前，冒著槍林彈雨指揮戰鬥，救治傷員，掩埋犧牲的同誌，他們的模範行為震撼著譚政的心，更加堅定了他為革命獻身的決心。後來，他又隨部隊上了井岡山，並在井岡山上宣誓，成為一名光榮的共產黨員。
在井岡山，他有機會近距離接觸毛澤東，感受偉人在革命初期所表現出的宏韜偉略。有一天，團政治部主任告訴他：“毛澤東同誌要你到他那裏去一趟。”譚政以為毛澤東要他去匯報工作，馬上趕到了毛澤東的住處。沒想到，毛澤東見到譚政卻和他親切地攀談起來。“你是東山學堂畢業的，當過小學教員，拿槍杆子以後是一直在軍隊當書記官嗎？”“是，我一直做文書工作。”譚政答道。“你這個書記官不錯嘛，三灣改編被編到軍官隊，不少人跑掉了，你沒有跑，上了井岡山，還入了黨。我聽說，你的古文基礎好，字也寫得工整，也算咱們工農革命軍的一位秀才囉。我看你就到前委來做書記官吧。”前委是工農革命軍的最高指揮機關，譚政聽了十分激動，立刻答道：“前委在哪裏呢？我這就去報到！”毛澤東望著書生氣十足的譚政笑著說：“前委就在這兒，我一個書記，你一個秘書，還有個警衛員同誌，曉得了麽？”“嘿嘿。”譚政也為自己的唐突而笑了。就這樣，譚政來到了毛澤東身邊，成為第一位給毛澤東當秘書的人。