因為張謇等立憲人士的積極活動，1906年，也即光緒三十二年，他們在上海成立了“預備立憲公會”，公推鄭孝胥為會長，張謇為副會長。這個組織成立後，大大方便了立憲活動的開展，此時的張謇內心勁頭兒也很足。過了兩年，光緒皇帝和慈禧太後先後駕崩，年幼的溥儀登基，他的父親載灃攝政。為了穩定時局，他們對立憲派采取了安撫措施，下令於各省建立了預備立憲的諮議局。為此，張謇很興奮，感覺大清有盼頭了，中國的立憲從此開始。沒過多久，張謇又被推為江蘇省諮議局議長。
張謇當了議長後馬上開始準備上奏朝廷速開國會。在諮議局有鬆江的雷奮、吳縣的楊廷棟等，全是曾在日本流過學主張立憲的積極分子。雷奮和楊廷棟又都很善於演說，每逢諮議局召開會議，他們兩個人便總是會在張謇的左右進行發言，以助張謇，儼然成了張謇的得力幹將。他們兩個也確實有才華，令會場上的人總是禁不住熱烈地鼓掌。加上張謇於當時官場和商場上的威望，使他很自然地成為了東南立憲派的領頭人物。
這個時候，大清朝廷剛剛跟日本國締結完割讓東三省權益的新約，使人們的心裏更是緊張。
又過了兩個月，七省諮議局代表聚會於上海，商議立憲大事。在此期間，張謇跟各省的議員見麵說話的機會比較多，這讓他更進一步了解到中央親貴貪權，官場更加腐敗，朝廷財政拮據，各地兵連禍結等等狀況，所以，認為應當必須馬上施行立憲，否則後果不堪設想。
會議之後，張謇又多次跟各省的議長們和副議長們通信或互派代表交流和了解情況。因為順直諮議局距離京城很近，因此對朝中的狀況更為了解，他們難以忍受朝中官員的作為，於宣統二年到宣統三年的六七月份間，屢屢向朝廷請願，提出改組親貴政府，馬上召開國會，立即實施立憲的主張。但是，由於他們言辭激烈、不容情麵，引起了朝中主事人員的羞惱，訓斥他們道：“危言聳聽，居心叵測！”