3月14日，李鴻章率參議李經方，參讚馬建忠、伍廷芳、羅豐祿、美國顧問科士達等隨員一百多人，前往日本馬關議和。20日，李鴻章與日本首相伊藤博文、外相陸奧宗光在馬關春帆樓開始談判，雙方交換全權證書，李鴻章勸日本不要“尋仇不已”，要求先議停戰協定。第二天，雙方舉行第二次談判，商議停戰之事。伊藤提出停戰條件：日軍占領大沽、天津、山海關，解除上述各地清軍武裝，日軍管理天津至山海關鐵路，清政府負擔停戰期內日本軍費。在這種情況下，李鴻章被迫要求先不談停戰，隻議議和條款。對此伊藤限定李鴻章於3日內答複停戰要求。24日，李鴻章正式備文拒絕日本提出的停戰條件，要求先談議和條款。伊藤允許第二天提出議和條件。當李鴻章在返回寓所的途中，被一早已隱伏的日本浪人小山豐太郎用槍擊中左顴、血流不止，頓時暈倒。小山是日本自由黨方麵的打手，他們認為議和時機未到，不占領北京是日本的恥辱，所以有意來破壞議和，以此擴大對華戰爭。李鴻章被刺後，伊藤、陸奧感到人心已變，不能再戰，如果此時談判破裂，對日極為不利，同時，也擔心因此招致列強幹涉。於是在28日，陸奧與李鴻章在病榻前議定無條件停戰。30日，中日簽訂為期21天的停戰條約，但範圍不包括澎湖和台灣。但是，兩天後日本首次公布議和條件，提出和約底稿，條件苛刻，並限4日內答複。李鴻章為此進行了多次爭辨，先後兩次向日本送說帖，逐條請求減讓。4月9日，李鴻章提出體麵修正案，允割遼南、安東、寬甸、鳳凰、岫岩四地與澎湖列島，賠款一億兩，新訂商約“以中國與泰西各國現行約章為本”。次日，李鴻章與伊藤舉行第四次談判，日本提出修改稿，將遼東割地由北緯41°以南縮至營口、海城、鳳凰城、安平河以南，將賠款由3萬萬兩減為2萬萬兩，商埠由七處減為四處，聲稱此為盡頭條款，中國隻有答應或不答應而已，不能減少。同時又威嚇：如果談判破裂，中國全權大臣一旦離去此地，是否再能安然出入北京城門，亦不以保證。李鴻章急忙請旨應付。清廷聞訊後，答應割台灣一半，但是，一定要爭回牛莊、營口。日方得到李鴻章的答複後，繼續進行恫嚇，並運兵至大連灣加以威脅。4月10日，清政府致電李鴻章：倘無可再商，即與訂約。李鴻章連續發回三封電文，催促清政府照日方改款定約。14日，清廷批準李鴻章“遵前旨與之下約”。第二天，中日雙方舉行最後一次談判，李鴻章與伊藤博文議定《中日馬關新約》（即中日《馬關條約》），共十一款，附有《另約》《議訂專條》。