其實，楊度沒有猜錯，南邊來的人正是孫中山派出的。
孫中山在張勳複辟之亂平定後，由一部分忠於他的海軍護衛著從上海南下廣州，並邀請黎元洪及被解散的國會議員一道南下，在廣東重新組織政府。孫中山揭櫫的旗號是維護民國元年製定的臨時約法。孫中山的基本軍隊，是前海軍總長程璧光和現任第一艦隊司令林葆懌所掌握的海軍艦隊。黎元洪沒有南下，原國會議員陸續來到廣州的有一百五十餘人。於是以這批議員為基礎召開國會非常會議，通過了一個名叫《軍政府組織大綱》的條例，選舉孫中山為大元帥，兩廣巡閱使陸榮廷、雲南督軍唐繼堯為元帥。軍政府設財政、外交、內務、陸軍、海軍等六部。這樣，中國又出現南北兩個政府了。
以正統自居的段祺瑞政府當然不能容忍廣州的軍政府，他想通過控製湖南來征戰兩廣。於是，南北兩方在湖南擺開了大戰場，結果北軍失利，導致段內閣倒台，總統馮國璋委任北洋元老王士珍為國務總理。王士珍隻當了三個月的總理，便又被段祺瑞擠下台，段再次複出就任總理。這時，進攻湖南的曹錕及其部下吳佩孚屢屢獲勝，段封曹為川粵湘贛四省經略使。曹錕督直而經略四省，成為民國以來地方官員權力最大的人。吳佩孚也被授予孚威將軍、援粵軍副總司令。吳原以為打下了湖南，可以做湘督，但湘督卻讓張敬堯搶去了，心中不快，雖掛了個援粵軍副總司令的名，但安坐衡陽，並不南下援粵。段祺瑞武力征服南方軍政府的目的未能達到。半年後，段又下台。北方政府的總統換成了徐世昌，總理換成了錢能訓。
南方的軍政府內部也不團結。陸榮廷、唐繼堯並不是孫中山的同誌，不情願處於孫之下。孫除部分海軍外並無其他軍隊，敵不過陸、唐。於是，軍政府由大元帥製改為七總裁製。這七個總裁是：陸榮廷、唐繼堯、孫中山、唐紹儀、伍廷芳、林葆懌、岑春煊，由岑擔任主席總裁。孫中山遭排擠，遂離開廣東來到上海。