上述秘密協定簽訂後，閻錫山即責成其屬下第六十一軍軍長梁培璜與第五專區專員續如楫，率領所部兵力和地方行政人員向汾東進攻。先以六十一軍全部兵力在臨汾日軍的師團的協助下，迅速攻占汾東地區後，馬上控製要點，構築工事，後根據情況發展，再增派部隊，將汾東地區的八路軍、決死隊堅決予以消滅。
就在六十一軍出發之前幾天，駐臨汾的日軍即派出一個大隊並附有偽警備隊的一個中隊，向浮山、翼城、襄陵、臨汾等交界之塔兒山地區進行掃**。並沿途散布謠言，說將派大軍徹底清剿塔兒山雲雲，企圖威脅抗日軍隊退出塔兒山，替六十一軍進攻汾東掃清道路。
一月二十八日，梁培璜率曹國忠之四十八師，周建祉之六十九師，與續如楫所屬之保安第五團、第九團以及縣區村的行政幹部，在第二戰區總參讚楊澄源的指揮下，向汾東根據地大舉進攻。為了順利渡過汾河，特由日軍指定之渡口史丁橋和日軍據點襄陵橋通過。梁培璜唯恐部下與日軍發生衝突，為對日軍表示親善，特規定士兵在過橋時，“必須退出槍膛內子彈，一律大背槍”。日軍在渡口和橋頭上，各派出一名大佐軍官，帶著全副武裝的日本兵，對閻方人馬表示歡迎。
日軍官看見六十一軍開過來，伸出大拇指稱讚道：“晉綏軍是日本皇軍大大的好朋友！”
同時，日軍還向六十一軍官兵贈送了大米、清酒、香煙和罐頭等慰問品。日方情報官員還向六十一軍通報了關於汾東地區八路軍、決死隊最近活動的情報。
六十一軍侵入汾東後，僅僅十多天工夫，便向八路軍和決死隊發起了四次大規模的進攻。太嶽區黨政軍主要負責人薄一波為了貫徹黨中央堅持團結抗戰的方針，再三函告楊澄源、梁培璜，勸其深明大義，幡然悔悟，懸崖勒馬，並陸續放回六十一軍被俘官兵，向楊、梁當麵勸告。但他們在閻錫山的催逼之下，始終執迷不悟，繼續勾結日軍，加緊修築防共碉堡，四處掃**，大肆搶糧，以備固守。