张衡青年时代曾游历旧京西安和京城洛阳，曾在太学读过书。由于他学识渊博，东汉政府曾经多次征召他做官，他都没有出仕。当时东汉建国已经七八十年，天下承平日久，王侯将相和大小官吏的生活穷极奢侈。张衡根据自己在西安、洛阳的见闻，花了十年时间，精心写作了《两京赋》，讽谏时世。公元一一一年( 安帝永初五年)张衡被任命为郎中，三年以后升为尚书侍郎，以后，又升为太史令，主持观察天文和研究历法方面的工作。一一七年，张衡按照自己长期对天体运行的观察和探究，主张以“浑天说”解释天体的构造。
他认为“浑天如鸡子，天体圆如弹丸;地如鸡中黄，孤居于内，天大而地小”，“天转如车毅之运也，周旋无端，其形浑浑，故曰浑天也”;并且据此创造了观察天 体 运行的仪器“浑天仪”，写了《浑天仪图注》。浑天仪用铜铸成，有可以转动的多层圆圈，各层圆圈刻着恒星和南 北极、经纬度、赤道、黄道等，外面有两个固定的圆环，分别代表子午圈和地平圈。张衡还巧妙地配用滴漏来使它转动，转动时所反映出来的现象，完全与天上日月尾辰的变化相符合。第二年，他又写了《灵宪》一书(此书已佚 )，探讨了天体运行规律，解释了日蚀、月蚀的道理。虽然其中许多内容，经后世证明不是很科学的，但是在人类对天体的认识史上，无疑具有重要的地位。一一九年，他又写了数学著作《算图论》( 此书也失传了。)
一二一年,张衡被调任公车司马令,掌管南阙门，总领天下征召之事。一二六年，他重任太史令，这时候他已经四十九岁了。旁人议论他调来调去仍然没有升官。为此，他在一篇题为《应间》的长文中写道:“君子不患位之不尊,而患德之不崇;不耻禄之不夥，而耻智之不博”，“衡内识利钝，操心不改”。表明了自己的忐趣。
一三二年(顺帝阳嘉元年)，张衡又创造了用于测定地震的“候风地动仪”。据《后汉书。张衡传》载，它“以精铜铸成，员径八尺，合盖隆起，形似酒尊，饰以篆文山龟鸟兽之形。中有都柱，旁行八道，施关发机。外有八龙，首衔铜丸，下有蟾赊，张口承之。其牙机巧制，皆隐在尊中，覆盖周密无际。如有地动，尊则振龙,机发吐丸,而蟾蜂衔之;振声激扬，伺者因此觉知。虽一龙发机，而七首不动，导其方面，乃知震之所在。”一三八年的一天，一条龙所衔的铜丸落下来了，当时洛阳人并没有感到有地震，于是大家纷纷怀疑甚至讥刺张衡的仪器不灵。几天之后，从甘肃方面传来了驿报，报告了陇西地震消息，这才使人人钦服。
东汉的历朝皇帝都崇信谶书和图纬，把迷信作为统治的工具。当时的知识界也争相学习，用作猎取官职的手段。张衡却与众不同，认为“图纬虚妄”，“欺世俗”，“譬犹画工，恶图犬马而好作鬼魅，诚以实事难形，而虚伪不穷”，主张“收藏图谶，一禁绝之”。一三三年,张衡升任侍中。在这些年里,东汉王朝的几个傀儡皇帝，或是由外戚,或是由宦官扶持上台，政治上出现外戚、宣官互争权势,并导致宫廷政变不断发生的局面。
二十岁的顺帝有一次曾经当着许多宦官的面问张衡:哪些人是天下人都痛恨的坏人?当时，张衡的回答虽然没有直 接 指 出 窗官，但宦官们害怕有朝一日他会向皇帝讲出真情。一三六年( 永和元年)，张衡终于被宣官们排挤出京，被派到宗室河间王的封地河间国( 今河北省东南部分地区，国都在今献县乐城)担任相职。河间王刘开骄奢跋扈，不遵守东汉中央政府的法令，又勾结地方上的豪门大族扰害百 姓。张 衡 一 上任，就整顿法度，调查奸党，把一些为非作歹的首恶逮捕惩办，从而河间国得到了比较好的治理。三年以后，张衡已六十一岁，他向东汉政府告老辞职，东汉朝廷又把他调到中央担任尚书，成为皇帝身边的重臣。但他任职 不 久，就病死了。
张衡一生在多种学科领域上都有杰出成就，其中以天文和地震科学方面对人类所作出的贡献最为突出。
