白馬山,不是因為山勢如馬，而是山中有一座寺曰白馬寺，所以這座原本無名之山才得名白馬。
和洛陽那座大名鼎鼎白馬寺相比，這座白馬寺雖然稱不上千年古刹，但在寺廟數以百計的五台山中，也算是小有名氣，香火旺盛。
而且，這座白馬寺的由來和洛陽白馬寺頗為相似。相傳是在魏晉年間，一位得道高僧以白馬馱著經書雲遊此至，見此山奇秀，於五台之間別有一番景致,便決定在此立寺。
據說，此高僧花了十年時間，以一人力，壘石成塔，積木成樓，真的建起了一座寺院。
寺成之日，當第一柱香在寺中燃起，時值六月的山中居然飄下鵝毛大雪。
六月飛雪通常是不祥之兆。不過，對於當地的村民而言，這場大雪卻無異於天降祥瑞。因為,此地已經大旱了半月有餘。
就此，方圓十裏的山民紛紛慕名而至，進寺上香朝拜。到了寺中才發現，殿中的供案之後空無一物。
問起緣故，那位高僧道：佛本無相，以眾生為相也。若心中有佛,所拜皆為佛，若心中無佛，既使佛祖顯靈，菩薩下凡，也會視而不見。
山民又問起寺院名字，高僧仿佛才想起此事，便道：貧僧以白馬馱經書至此，白馬亦是功德無量，就叫白馬寺吧。
白馬寺就此得名。
此後數百年，白馬寺香火日盛。盡管寺中一直沒有供奉任何佛像，但前來進香的信徒卻越來越多，越來越遠。
原因其實很簡單。據說自有了白馬寺之後，此地數百年來不僅一直風調雨順，五穀豐登，而且從未遭受過兵燹之禍。
唐朝天寶年間，名將郭子儀受命出雁門關平定安史之亂。當時郭子儀正在守孝期間，隻因軍情緊迫，才被朝廷奪情啟用。
據說起兵之前，郭子儀曾到白馬寺中上香求簽，以卜吉凶。寺中方丈卻未給他簽筒，而是給了他一柄八指長的二股檀木金剛杵，而金剛杵通常是獨股、三股或五股，二股的尤其罕見。