漢代的第二位皇帝惠帝時，久旱不雨。惠帝親自穿上祭服，帶領大臣們在渭水河畔祭祀，天空陰雲籠罩，吹起了大風，好像要下雨的樣子，但過了一會兒又風吹雲散了。惠帝十分困惑，但也無奈，隻好上了馬車，和大臣們一起回長安。
惠帝的車夫看見未央宮的宮闕時，車輪好像撞上了一個東西，他停了下來，讓扈從的士兵去查看，隻見車輪下的土隆了起來，土內隆隆有聲，好像有一隻大豬在嗥叫的樣子。
惠帝命令內侍挪開馬車，挖開隆起的土包，隻見土坑裏有一塊青色的玉，外形像一隻鳥，但隻有一隻腳。惠帝叫來大臣陳平，讓他辨認，陳平說：“回稟陛下，玉雕名為商羊，用水澆它就會下雨。”
惠帝立刻命內侍拿來水囊，往土坑裏澆水，玉雕被衝洗得光華燦爛，閃爍著青光，天上瞬時陰雲密布，不一會兒便雷聲大作，下起了大雨。惠帝很高興，問陳平商羊是什麽來曆。
陳平答：“回稟陛下，商羊是雨師。它既能變大，又能變小，大的時候像一片雲，能遮蔽整個天空，能吸幹北海的水；小的時候像一個蚊子，一滴露水就能喂飽它。”
惠帝問：“從前雨師也在帝王麵前出現過嗎？”
陳平說：“東周時，有一隻大鳥落在齊國的宮殿上。齊侯和他的大臣都不能辨認，就派使者去問孔子。孔子告訴使者，鳥兒名叫商羊，是水的祥瑞。應該告訴民眾挖掘溝渠，預備排水，不然會有水災。後來果然連續幾天都下了大雨，因為有防備，所以沒有形成水災。”
惠帝十分高興，嘉獎了陳平，命人就地建設雨師廟，將那隻玉鳥供奉在裏麵，設立專門的官職祭祀，每當天旱，就命人用水澆灌，總會下一場甘霖。
後來惠帝的母親呂後毒殺了高祖生前最愛的兒子趙王如意，又虐殺了如意的母親戚夫人。惠帝得知後又驚又怒，生了一場大病，不久就駕崩了。人們看到雨師廟中飛出一隻大鳥，腳不踐地，鳴聲十分哀戚，在長安郊外的田野上低飛，大雨連續下了好幾天，連未央宮都泡在洪水中。