光緒二十年（1894），中日戰爭爆發，中國又一次慘敗；次年三月二十三日（4月17日），清廷與日本簽訂喪權辱國的《馬關條約》，瓜分危機更是迫在眉睫。康有為趁入京應試的機會，聯合各省應試舉人1300餘人，於四月初八日（5月2日）聯名請願，發動“公車上書”。他在“公車上書”中，請求拒和、遷都、練兵、變法，提出“下詔鼓天下之氣”、“遷都定天下之本”、“練兵強天下之勢”、“變法成天下之治”等改良派的救國綱領。認為變法著重在富國、養民和教民三方麵。提出富國之法有六：一、鈔法，戶部用精製鈔票，設官銀行，以擴充商務；二、建築鐵路，收我利權；三、製造機器、輪舟，獎勵新製造，並發展、保護民營工業；四、礦務，開設礦學，請比利時人教導勘測，選才督辦，不濫用私人；五、鑄銀，各省設鑄銀局，以塞漏卮；六、郵政，設郵政局。養民之法有四：一、務農；二、勸工；三、惠商；四、恤窮。教民之法則為分立學堂、開設報館，以“化導愚民，扶聖教而塞異端”。這是康有為的第二次上書，也是改良派正式登上政治舞台的第一幕。
“公車上書”被拒絕代呈，光緒帝沒有看到。不久榜發，康有為得中進士，授工部主事。康有為又於同年五月初六日（5月29日）呈送《上清帝第三書》，提出了變法的步驟，指出自強雪恥之策有四：即富民、養民、教士、練兵，而如何審端致力於上述四策，則在乎“求人才而擢不次”、“慎左右而廣其選”、“通下情而合其力”三者，以求“人才得，左右賢，下情達”。這次上書由都察院代呈，光緒帝第一次讀到他的上書。
接著，他又上《第四書》，再次籲請“尊賢而尚功，保民而親下”，使“有情必通，有才必用”，並正式提出了“設議院以通下情”的主張，但又被頑固派拒絕代呈。