漢靈帝中平三年（186），羊續（字興祖，平陽人）被任命為南陽太守。
太守是一郡的最高長官，地位十分顯赫，可是羊續為官清廉，生活儉樸。他吃的是粗茶淡飯，穿的是破舊衣服，坐的是瘦馬拉的破車。有時，他裝扮成百姓，到街頭巷尾察訪，了解民情。那時，南陽郡一些有權有勢的人家過著花天酒地的生活，他們花費大量的錢財追求享受，對這些奢侈腐敗的歪風，羊續和老百姓一樣深惡痛絕。
羊續到南陽郡上任，連妻兒家室都沒有帶，讓他們留在家鄉種地，和百姓一樣，靠務農生活。
有一次，羊續的妻子兒女來南陽探親，羊續竟然關著門，不讓他們進屋，不許他們留住下來。他兒子挺不高興，生氣地說：“父親，母親認為你的官做大了，就變心了，現在看來，你確實是變心了，竟這麽容不下我們！”
“好兒子，別激動，你還是跟我進屋看看再說吧。”
於是，羊續帶著兒子進了內室，隻見**鋪著布被，床邊疊著幾件舊短衣，台子上放著一點鹽，牆角裏堆著幾斛糧食。羊續溫和地對兒子說：“孩子，我雖然做了太守，但日常的供養就這麽一點，並沒有多餘的財物可以用來養活你們啊……”
羊續耐心地勉勵兒子，要養成自力更生、勤勞節儉的好習慣，要靠自己發憤圖強，將來才能做大事，有所成就。聽著父親親切的話語，一種理解和敬重之情在羊續的兒子的內心漸漸湧起，他毅然地說：“父親，孩兒明白了，我馬上陪母親回鄉去。”
一眨眼三年過去了，羊續以身力行的儉樸作風受到南陽老百姓的愛戴，漢靈帝想提拔羊續到朝廷做太尉。太尉是輔助國君掌握軍政大權的最高官員。然而，那時想升官，先得給皇帝身邊的宦官送上許多禮錢，還得在自己任職的地方為宦官安排隆重而盛大的宴席，再進貢厚禮，隻有討好了這些宦官，宦官才會“上天言好事，回宮降吉祥”。而羊續從未搜刮過民脂民膏，並沒有多餘的錢財。自然，宦官在南陽受到了冷落，他們得不到什麽厚禮，還被安排坐在一張薄席上，頓時變了臉色。這時，羊續緩緩地說：“請公公奏明皇上，臣全部的財產，隻有一件舊棉袍，公公可以察看。”