呂蒙年少時跟著姐夫鄧當。鄧當是孫策手下的將領，多次參加討伐少數民族政權山越的戰鬥。長到十五六歲時，呂蒙開始偷偷跟隨鄧當參加戰鬥，鄧當發現以後大吃一驚，大聲指責呂蒙，讓他回去，呂蒙不答應。回去後，鄧當向呂蒙的母親告狀，呂蒙的母親很生氣，要懲罰呂蒙，呂蒙說：“不到老虎洞中去，怎會捉到小老虎呢？”母親無奈地認同了呂蒙。
呂蒙能聽人言，敏而好學。他在孫權掌管江東以後，逐漸得到重用。有一天，孫權對呂蒙說：“你現在當權掌管軍中事務，不能不學習！”呂蒙以軍營中事務繁多為理由加以推辭。孫權說：“我難道想要你鑽研經書成為傳授經書的官嗎！隻不過要你粗略地閱讀，了解曆史罷了。你要說事務多，誰像我事務多？我常常讀書，自己感到這是十分有收效的妙方。”於是呂蒙開始進行學習。
魯肅臨時代理周瑜的事務時，入駐呂蒙的屯兵之處。當時魯肅因為呂蒙是個武夫，對他有些輕視，有人對魯肅說：“呂蒙將軍的功名一天天顯揚，不可以用原來的態度對待他，您應該去看望他。”魯肅隨即去拜訪呂蒙。酒到酣處，呂蒙問魯肅：“您擔負重任以抵禦關羽方麵軍，打算用什麽方法應對突然發生的襲擊？”魯肅輕慢地說：“臨時想辦法就行。”呂蒙說：“現在東吳和西蜀是暫時聯盟，關羽畢竟對我們有威脅，怎能不提早做好應對的打算呢？”於是就這個問題，他為魯肅想了五種應對的方法。魯肅又佩服又感激，從飯桌上跨過去，坐在呂蒙旁邊，手撫著呂蒙的背，親切地說：“呂蒙，我不知道你的才能策略竟然到了如此境地！以你現在的才幹和謀略來看，你不再是原來吳地的阿蒙了！”呂蒙說：“對於有誌氣的人，分別了數日之後就應重新另眼看待他的才能，大哥知道這件事太遲了啊！”於是魯肅拜見呂蒙的母親，與呂蒙結為朋友，然後告別而去。後以“吳下阿蒙”稱譽別人變化很大，長進明顯；或反其意而用之，謙指自己毫無長進，也作“阿蒙吳下”。