朝臣終於明白了，武則天不會輕易處置張氏兄弟。此時，一直躲在幕後的張柬之開始活躍起來，他找到了駐守在洛陽宮北門的右羽林衛大將軍李多祚。
張柬之：“李將軍，您在北門鎮守多少年了？”
李多祚：“三十餘年！”
張柬之：“將軍如今的榮華富貴，都是拜誰所賜？”
李多祚：“自然是高宗皇帝！”
張柬之：“如今，高宗皇帝的兩個兒子受張氏兄弟的欺負，難道將軍可以無動於衷，坐視不理嗎？”
李多祚：“隻要對李唐天下有利，全憑張大人吩咐！”
張柬之：“俺憑什麽相信將軍？”
李多祚想也沒想，直接拉著張柬之跪在地上，對著天地神靈發誓，願意協助張柬之誅殺逆賊，匡扶李唐天下。直到此時，張柬之終於鬆了一口氣。李多祚在羽林衛經營了三十餘年，勢力盤根錯節，有他的加盟，再無後顧之憂。
就在此時，出差在外的姚崇回來了，這位老兄是相王李旦的幕僚，對光複李唐很感興趣。張柬之將計劃對他和盤托出，瞬間就獲得了支持。
準備工作已經全部就緒，還差最後一個環節：爭取李顯的同意。
說白了，沒有李顯的同意，張柬之等人就是謀反，有李顯的同意，張柬之等人就是匡扶政變。然而，李顯一直待在太子宮，和外界幾乎沒有任何聯係，還是桓彥範和敬暉趁他上朝的時候，才把政變的計劃臨時告知給他。神龍元年（705）正月二十二日，一場推翻武周王朝的政變突然發動，由於武則天剛剛改年為神龍元年，這場政變的官方說法也叫神龍政變。
參與政變的核心朝臣如下：
宰相張柬之
宰相崔玄暐
左羽林衛大將軍李多祚
左羽林衛將軍李湛
左羽林衛將軍趙承思
左羽林衛將軍敬暉
檢校左羽林衛將軍桓彥範