研究上古語音係統，有兩種最重要的材料，一是前麵說到的《詩經》韻腳，二是形聲字。
形聲字也叫諧聲字，在漢字中占有很大的比重。理論上講，形聲字的聲旁反映了造字時代的真實字音；又因聲旁往往複用，新字又可做聲旁，從而構成一個體係，反映出造字時代的語音係統。比如，“寺”從上部的“之”得聲，而“侍、等、特、持”等字又從“寺”得聲。當然，造字時代要比《詩經》時代早得多，而且不可能是一時一地造成的，所以實際情況是很複雜的。
從宋代就有人用諧聲字考證古音。到顧炎武時，開始有意識地把同韻部的諧聲字主次分明地放在一起，讓人一目了然。其後段玉裁發展了這種做法，全麵利用諧聲字研究古韻，成就超越前人。
段玉裁（1735～1815）是傑出的古文字學家，他善於利用自己的古文字知識促進古音研究。他在《六書音均表》中提出了“同諧聲者必同部”理論，並據此列出古韻部每部的主諧字，製成諧聲表（圖55）；主諧字與被諧字也有不能歸在一部的，這時讀音也當相近。這一理論不僅促進了古音韻研究，對於我們簡便地學習、掌握古音也很實用。
圖55 《六書音均表》“古十七部諧聲表”（局部） 選自《皇清經解》