海軍第一艦隊與練習艦隊同時獨立的警報傳達中央，國務卿段祺瑞不免驚慌，立即電致南京將軍馮國璋和淞滬護軍使楊善德，讓他們設法調停，挽回局麵。哪知馮、楊二人已接到李鼎新的密函，保持中立，互不相犯。馮本來就要求恢複舊約法，當然站在海軍這邊；楊雖為段氏爪牙，但在上海勢單力薄，前後被逼的情況下，隻好置身局外，作壁上觀。段盼望回音，卻久久不見答複，偏偏這時候，二百九十九名國會議員聯名通電國務卿道：“……《臨時約法》本就存在，原無所謂恢複；今日以命令來廢止三年約法，使從前違憲之行為歸於無效，更無所謂以命令來變更法律。”
段祺瑞接到此電，開始有些動搖，於是與黎元洪總統商議，主張恢複舊約法。黎本來就反對袁製，隻因段氏登台挾有權力，所有規劃，不得不歸段取決，所以坐觀其變，沒有獨斷獨行。現在段既然有心規複，黎怎麽可能不同意呢？於是，新政府六月二十九日下令，恢複民國元年的《臨時約法》，召集國會，於本年八月一日起繼續開會，特任段祺瑞為國務總理。
這幾項命令一頒布，全國上下歡聲雷動，爭頌黎元洪、段祺瑞二人的功德，似乎民國共和從此再造，再也不像袁皇帝時代有名無實了。段祺瑞奉命組閣，擔任國務總理，為了內閣麵目一新，必須將舊有部員酌量撤換。段想，老成碩望莫如徐世昌，現在正是新舊交替，選擇艱難的重要時刻，正應找他商量。於是立即前往徐世昌的公寓。徐世昌因袁世凱的喪事累得筋疲力盡，在家中靜養，忽然聽說段祺瑞到來，知道他肯定有要事相商，不便相拒，於是起身出室，迎段入廳。彼此閑談數語，段便問及組閣的事，徐答道：“芝泉！你經辦的事也多了，此次組閣，諒你有特別把握，何必問我。”段說道：“論起資望，當今世上莫如徐公。公若肯出來組閣，祺瑞當麵達總統，薦賢自代。”徐笑道：“我為去任職袁氏惹人譏罵，難道還不夠揶揄嗎？今日若再出去任職，不是馮婦[14]，就是馮道了。”段又道：“世上的議論能有幾句公正？如果要麵麵討好，隻會一事無成。”徐道：“芝泉，你的好意我心領了，但我已下定決心，誓不再做民國官吏。”段祺瑞聽到此話，知道不便再勸，於是提出一班人馬，與徐世昌密商起來。段說一姓名，徐答一“好”字，或說“也好”。當段說出“許世英”三字，徐點頭道：“他是我的舊僚，與你也是莫逆之交。相信這人絕對靠得住，或者讓他執掌內務，或者讓他執掌交通，肯定能勝任。”段又說了幾個人，徐也不加評論，隻說一個“好”字，便算通過。段問及行政要略，徐捋著胡須，好久才說道：“目前的重要策略，第一件是固結北洋團體，第二件是保守中央威信，第三件是消釋與國民黨之間長久的嫌隙，三事並舉，國家或許能安定。”段拱手道：“多謝徐老指教，一定從命。”說完，告辭而去。第二天，黎總統下令，任命唐紹儀為外交總長，許世英為內務總長，陳錦濤為財政總長，程壁光為海軍總長，張耀曾為司法總長，孫洪伊為教育總長，張國淦為農商總長，汪大燮為交通總長，國務總理段祺瑞兼任陸軍總長。自此，段內閣成立。