高平金乡（今属山东）人，世居京口（今江苏镇江）。少孤。元兴三年（404），从刘裕起兵京口，讨桓玄，又转战各地，所向披靡，为太尉参军。义熙十二年（416），刘裕北伐后秦，檀道济为前锋，所至克捷，收复洛阳，进兵潼关，攻取长安。刘裕称帝建宋，檀道济以元勋封永修县公，后又出任镇北将军、南兖州刺史。宋文帝刘义隆时，任江州刺史。元嘉八年（431），统军击北魏，多有克捷。至历城（今山东济南），粮尽，不得已退军，设计阻延魏军追逼，全军而返。进位司空，还镇寻阳（今江西九江）。

十三年，宋文帝病重，彭城王刘义康执政。因檀道济功高震主，刘义康怕宋文帝逝后其不能听命，遂矫诏召檀道济入朝，与子檀植等8人并戮于建康（今南京）。