第二天，曹操下令班師回許都。關羽請兩位嫂子坐上馬車，親自護送前往許都。夜裏休息時，曹操有意安排關羽和兩位嫂子住到同一間房間裏，關羽便在門外站了一夜。曹操聽說以後，更加敬佩關羽了。
到了許都，曹操送給關羽一座宅院，關羽將宅院一分為二，內院讓兩位嫂子居住，由十名老兵守護，自己住在外院。曹操送給關羽許多金銀錦帛，關羽都送到內院，交給兩位嫂子。曹操又送給關羽十名侍女，讓她們服侍關羽，關羽也將她們送到內院服侍兩位嫂子。曹操得知這些事情，對關羽的為人讚歎不已。
曹操見關羽的綠錦袍已經很舊了，便命人給關羽量身定做了一件上好的綠錦袍，親自送給關羽。關羽將新錦袍穿在裏麵，外麵仍然穿著舊錦袍，曹操見了，問道：“不至於如此節儉吧？”關羽回答道：“不是節儉。舊錦袍是兄長送給我的，我穿著它就好像見到了兄長。”曹操嘴上稱讚，心裏卻很不高興。
曹操親自送關羽回去，見關羽騎的馬很清瘦，問道：“戰馬怎麽這樣瘦弱？”關羽聽了，回答道：“我身體太重，就把馬壓瘦了。”曹操便命人牽來一匹好馬，送給關羽。關羽見了，問道：“這是呂布的赤兔馬吧？”曹操答道：“正是赤兔馬。”關羽大喜，連連道謝。曹操問道：“我送你金銀美女，你從不道謝。但我送你一匹馬，你卻再三道謝，這是何故？”關羽回答道：“有了赤兔馬，一旦打聽到兄長的下落，我就能立即飛奔到兄長身邊。”曹操聽了，後悔不已。
曹操令張遼前去打探關羽的心思。張遼見到關羽，問道：“兄長在許都生活是否如意？”關羽回答道：“曹公對我恩重如山，隻是我始終掛念兄長，放心不下。”張遼說道：“劉使君對待兄長，未必比得上曹公，兄長又何必對劉使君念念不忘？分不清是非輕重的人，算不上男子漢。”關羽說道：“曹公對我的恩情我牢記在心，隻是我與兄長情同手足，生死與共，萬萬不能背棄誓言。等我報答了曹公的厚恩，便要追隨兄長而去。”張遼又問道：“倘若劉使君已經不在人世，兄長怎麽追隨？”關羽答道：“即使到了九泉，也要追隨兄長。”張遼見到曹操，將關羽的話如實稟報曹操，曹操歎道：“關羽真是天下第一義士！”荀彧說道：“既然如此，就不要給他立功報恩的機會。”曹操點頭答應。