十七歲那年，張衡離開家鄉，先後到了長安和洛陽，在太學(19)裏用功讀書。當時的洛陽和長安是很繁華的城市，城裏的王公貴族過的是驕奢**逸的生活。張衡對這些很看不慣，便寫了兩篇文學作品《西京賦》和《東京賦》，諷刺這種現象。據說他為了寫這兩篇作品，經過深思熟慮，反複修改，前後花了十年工夫，可見他研究學問的精神是多麽認真嚴肅。
但是張衡的特長不是文學，他特別愛好的是數學和天文研究。朝廷聽說張衡是個有學問的人，就召他到京裏做官。他先是在宮裏做了郎中(20)，後來又擔任了太史令，負責研究陰陽、天文曆法，這個工作正好符合他的研究興趣。
張衡對許多具體的天象做了觀察和分析。他統計出中國中原地區能看到的星數大約有2500 顆。他基本上掌握了月食的原理，測出的太陽和月亮的角直徑也相當準確。張衡還認為，早、中、晚的太陽，其大小是一樣的，但為什麽看起來是早晚的大、中午的小？其實這是一種光學作用：早晚觀測者所處的環境比較暗，從暗處看明處就顯得大；中午天地同明，看天上的太陽就顯得小。好比一團火，夜裏看就大，白天看就小。張衡的這種解釋，盡管不全麵，但是有一定的道理。
經過他的觀察研究，他斷定地球是圓的，月亮是借太陽照射才反射出光。他還認為天像雞蛋殼，包在地的外麵；地像雞蛋黃，在天的中間。這種學說雖然不完全精確，但在一千八百多年前，能說出這種科學的見解，不能不使後來的天文學家欽佩。
不光是這樣，張衡還用銅製造了一種測量天文的儀器，叫作“渾天儀”。渾天儀上麵刻著日月星辰等天文現象，並通過水力來轉動。據說什麽星從東方升起，什麽星向西方落下，都能在渾天儀上看得清清楚楚。