史玉柱對銀行業的投資，始於2001年，真正操作是在2002年。華夏銀行在2002年準備上市，此時，史玉柱控股的上海健特買了北京華資銀團公司的6000萬股華夏銀行股票，後又從首鋼總公司買了8000萬股華夏銀行股票。
當年，他執意不依靠銀行，讓他嚐到了融資渠道不暢的苦果。後來，他考慮對銀行的投資可以使自己成為銀行的大股東，對未來企業資金需求會是一個很好的支撐，故此反複思忖跟一些人聊天時聽到的建議，便想借助銀行業發展穩定的契機和商業模式的清晰，給自己選定一個穩妥的投資目標。
他認為，破產不是全國性銀行該擔心的事情，因為背靠著國家這棵大樹好乘涼。而且，銀行股的退出機製也十分優越，便於質押的銀行股權和方便的現金套現通路，使銀行股有利於大筆資金的進出。
前因後果全部搞清楚了，史玉柱開始積極尋找投資華夏銀行的契機。
2002年，他的老友段永基走馬上任，成為四通集團董事長。這家公司有6000萬股華夏銀行股份被法院凍結了，還沒拍賣之前，史玉柱就幫段永基堵上了這個窟窿，接手了華夏銀行的股權。
待到2003年華夏銀行上市，IPO價格是5.6元，這時史玉柱手裏有1.4億股華夏銀行的股票，顯然增值了。他嚐到了投資銀行股的甜頭。後來，在2004年華夏銀行公積金轉股的過程中，他原來持有的股票增至1.68億股。
華夏銀行的投資，讓史玉柱穩賺不賠，隨即他開始運籌投資民生銀行。對民生銀行的投資，是受他的另一個老友馮侖的影響。馮侖在2003年9月想把手底下的萬通實業股份有限公司上市，但該公司是房地產企業，投行覺得一家房地產公司卻持有銀行的股票，會讓市場不信任，估值自然不會很高。
在這種情況下，史玉柱“慷慨解囊”，從馮侖手裏買下1.43億股民生銀行股票，這件事辦得可謂一箭雙雕。因為股票的價格堪比“白菜價”，但老友馮侖又不能不感謝他的幫助。至此，健特持有的民生銀行股票占到非流通股的3.97%，讓史玉柱一下躍居民生銀行第8大股東的顯赫位置。