U.-J.-J.勒威耶在1846年用天体力学理论计算而发现海王星，标志着此学科的可靠性。但就在勒威耶任巴黎天文台台长间，他在整理大行星长期观测资料时，于1859年发现水星近日点进动速率有偏差，计算值比观测值每百年小38″。纽康通过更长时间和更精确的观测研究于1882年肯定了此偏差，并修正为43″。在排除了各种可能因素后，就断定问题在牛顿力学本身。

A.爱因斯坦提出广义相对论后，于1916年用它计算出水星近日点进动速率，正好比牛顿力学的计算结果每百年多43″，符合观测结果，而且后来计算的金星、地球、火星的结果，也符合观测。这就肯定广义相对论更符合天体运动实际。1938年，爱因斯坦等人完成多体问题的后牛顿运动方程，即EIH方程，开始建立更精确的后牛顿天体力学，这是相对论天体力学的前身。直到20世纪50年代，有关天体运动和形状的绝大多数课题，用牛顿天体力学已能解决。

随着观测精度不断提高，很多课题所需的精度已超过牛顿力学水平，建立以广义相对论为基础的天体运动和形状理论，已提到议事日程。第一个提出的人是俄罗斯的勃隆别格，他在1972年出版的天体力学著作的书名就是《相对论天体力学》。他在书中提出了此学科的定义和主要内容。由于是用俄文出版，在国际上影响不大。后在国际天文学联合会主持下，于1985年召开了相对论天体力学的专题讨论会，此学科在会上得到公认，并引起广泛重视。勃隆别格将《相对论天体力学》一书充实内容后，于1991年用英文出版，成为此学科的代表作。

相对论天体力学主要内容为后牛顿天体力学、高阶后牛顿二体问题、相对论天文参考系统及相对论恒星系统动力学。

模仿牛顿力学的形式来解决慢速运动和弱引力场的相对论问题，即将广义相对论的场方程展开成天体速度与光速的比（）及无量纲牛顿引力势（）这些小量的幂级数形式，得到逐级近似的天体系统的运动方程，如爱因斯坦等人的EIH方程。在这种近似形式下，容易将广义相对论的结论与牛顿经典理论进行比较。许多重要的广义相对论效应，如水星近日点的进动、自转与轨道运动的耦合，都可由后牛顿天体力学给予说明。为讨论和检验广义相对论和其他新引力理论，威耳等人在1981年完成了参数化后牛顿方法（简称PPN）；1991～1994年，法国人达穆尔、德国人索费儿和须重明共同完成的DSX理论体系等。

设为光速，含的项称为一阶后牛顿（简称1PN）项；含的称2PN项；含的称2.5PN项；依次类推。针对旋转致密双星二体问题运动方程，轨道部分已展开至3PN项（其中2.5PN项同引力波联系，是耗散项），自转与轨道运动的耦合已准到3.5PN项，自转与自转运动的耦合已准到4PN项。达穆尔等采用广义相对论的ADM-哈密顿量形式来描述二体动力学问题，而安德雷德（Andrade）等直接在谐振坐标下由拉格朗日导出运动方程。这两种算法的结果在物理上被证明等价。然而，中国的伍歆等人于2015年揭示了同阶后牛顿拉格朗日和密顿量这两种近似表达形式一般不等价，甚至存在可积与不可积或者不混沌与混沌的差异。

研究广义相对论框架下天文学各种参考系的精确定义和实现方法，是天体力学和天体测量学的共同领域。

用相对论或其他新引力理论研究双星（特别是脉冲双星和X射线双星）、星团、星系等的动力学课题。