东晋谯国龙亢(今安徽怀远西北龙亢集)人。桓豁子。弱冠知名，谢安引为参军。荆州刺史桓冲荐为督荆、江、豫三州之十郡军事，振武将军，领襄城太守，后复领谯国内史、梁郡太守。太元九年(384)，监荆州军事、荆州刺史。十一年，遣将军晏谦攻下弘农(今河南灵宝北)。苻丕谋袭洛阳，遣将击之，杀丕。乞活黄淮与丁零翟斌共攻长社(今河南长葛东)，复遣将斩淮。以战功卓著，进左将军。
