王彥章出身低微，家中世代都是白衣。
唐末五代時，天下大亂，梁太祖朱溫招兵買馬，王彥章跑去毛遂自薦，說自己要當隊長。
周圍士兵哈哈大笑，覺得這個莊稼漢瘋了，但王彥章卻說，我天生雄壯，比你們這群人厲害多了，看來今天不讓你們開開眼界，你們是不會服我。說罷，他脫了草鞋光著腳，在旁邊有蒺藜的路上來回走了三五趟。
眾人大驚失色，王彥章得意揚揚，招呼著，來呀，誰不服，也跟我一樣走兩趟！
這蒺藜長滿了刺，人踩上去還不得被戳上十個八個孔？誰敢？眾人麵麵相覷，都跑了。
朱溫在帳中，聽見了這位牛人的事跡，當下把他提拔為小隊長。那個時候朱溫還沒有當皇帝，正處於二次創業的關鍵時刻，最重視籠絡人才。
王彥章膂力過人，專使一杆長槍，騎著馬在敵軍陣中來去自如，如入無人之境，入朱溫麾下後打了幾場漂亮仗，多次立下奇功，於是更得重用了。
據《資治通鑒》記載，王彥章用的這杆鐵槍足重一百斤，換算成今天的重量單位，也有六十多斤，正常人掄都掄不動，可他卻使得虎虎生風。而且他打仗時不止帶一杆槍，隨身還背著一根備用的，這分量，也就隻有《水滸》《三國》這樣的演義小說裏才敢這麽寫。
不管鐵槍究竟重幾何，王彥章都毋庸置疑是一員虎將。宋江就非常推崇他：“我聞五代時，大梁王彥章，日不移影，連打唐將三十六員。”
王彥章出身不好，若是生在太平年代，恐怕隻能做個賣力氣的農夫屠戶，幸好他生在亂世，有本事的人都能用拳頭來打天下。
朱溫的事業蒸蒸日上，很快代唐建梁，王彥章作為提前入股的元老級大將，也跟著噌噌地升官發財。
開平二年（908年）十月，王彥章遷任左龍驤軍使，次年兼任左監門衛上將軍，乾化元年（911年）再兼任行營左先鋒馬軍使，並被封為金紫光祿大夫及檢校司空。