晋宋之际东海郯县(今山东郯城北)人。历任衡阳内史、御史中丞等，世称“何衡阳”。晚年因泄漏密旨免官。博通经史，精历术，曾考定《元嘉历》，为唐宋历法家所仿效。他依据天文历数知识和儒家观点，进行反佛的理论斗争。刘宋初，著《报应问》，依据自然现象，论证“杀生者无恶报，为福者无善应”的观点，受到刘少府的反诘，史称“报应问之争”。元嘉之际，因支持慧琳《白黑论》对佛教的非难，同宗炳展开论辩。批驳宗炳“无形而神存”的观点，以“薪火之喻”，说明火无薪不燃，神离形不存，史称“白黑论之争”。同时，又与颜延之就人性与其他生物性质的异同，往复笔战，反对佛教的“轮回转生”说。重申“生必有死，形毙神散;犹春荣秋落，四时代换”(《达性论》)，以人死、形毙、神散为否定来生说的主要根据，史称“达性论之争”。是南朝初期最先以“神灭论”反对佛教“神不灭论”的代表者。善弹筝，通音律，反对京房把音律“谬为六十”，发明一种接近十二平均律的新律。曾奉命纂修《宋书》，未成而卒。著有《报应问》、《答宗居士书》、《达性论》、《春秋前传》、《春秋前杂传》等。明张溥编有《何衡阳集》。