胡雪岩一生偉績中唯一留下來，其名聲又很好的隻有胡慶餘堂這家老字號藥店。胡雪岩在1874年開始籌建，並於光緒四年（1878年）在杭州西湖吳山腳下建成胡慶餘堂，它與北京的同仁堂共同成為中國近現代史上最著名的兩家國字號醫藥堂。
胡雪岩在杭州開藥店，布藥施粥，還為左宗棠的軍隊提供大量的軍藥，因此在當時被人們稱為胡大善人，而胡慶餘堂更是揚名萬裏，享譽中外。
胡雪岩本身是做錢莊生意的，他之所以開起藥店也是有一定溯源的。當時，左宗棠收複了杭州城之後，胡雪岩受左宗棠的委托，在杭州城內負責戰後重建等事宜。當時城內殘留了大量屍體，要想重新恢複杭州城的美麗，首要的便是處理這些屍體，為了防止瘟疫等疾病，胡雪岩下令掩埋屍體。掩埋完屍體以後，胡雪岩擔心還會再起瘟疫，於是就托人從上海購買了大量的丸藥，然後請幾個杭州知名的老中醫來配藥，他們連續配製了很多天，終於製成了大量的預防瘟疫、增強抵抗力的藥物。然後，胡雪岩便把這些成藥分發到各處，或者放在粥裏施發給百姓們。這樣一來，杭州城的百姓染瘟疫的越來越少，人們也漸漸地重新振作起來。
但是後來胡雪岩又想到了一個問題，即當初左宗棠在戰場的時候，戰事吃緊，士兵難免傷亡，受傷之後不及時治療，病情會惡化，其後果不堪設想，並會嚴重影響戰局。胡雪岩想要是能有方便快捷的藥物隨軍營活動，那就能解決士兵的傷情問題，為戰爭形勢帶來好的轉變，其意義重大。
於是，胡雪岩就想要製造更多的藥材，想要自己開藥店，並且他把這一想法告訴了老中醫和朋友們，大家都同意這樣做。因為這樣既能照顧那些軍隊，又能造福百姓，還能賺錢。但是這隻是胡雪岩最初的想法，他並沒有付諸行動，是另外一件事情才真正引發了胡雪岩的實際行動。