生于福建福州，卒于北京。1943年在重庆毕业于马尾海军学校。1945年赴英国皇家海军学校留学，主修造船。1950年改攻天文，进入伦敦大学天文台进行研究工作，1953年回国。先后任中国科学院紫金山天文台副研究员，中国科学院北京天文台研究员(1979)、台长（1984～1987）、名誉台长（1987～1998），中国天文学会理事长（1985～1989）、名誉理事长（1989～2021），中国科学院数理学部副主任（1981～1993）、主任（1994～1996），第五、六、七、八届全国人大代表。1980年当选为中国科学院学部委员（院士）。1998年当选国际欧亚科学院院士。他是中国射电天文学开创者，中国现代天体物理学奠基者之一，20世纪后期（1978～1998）成为中国天文学发展的领路人。

回国后，王绶琯在紫金山天文台参加恢复天体物理观测工作，在上海徐家汇观象台负责提高授时精度的任务。提出将光电记录方法用于棱镜等高仪，后中国制成的光电等高仪实现了当时国际同类仪器最高精度。1958年，参加北京天文台筹建工作。1959年主办全国“射电天文讲习班”，培养了一批射电骨干人才。先后主持建成太阳米波多天线干涉仪（1967）、分米波复合干涉仪（1974）、密云米波综合孔径射电望远镜（1984）。20世纪80年代初提出太阳爆发可能存在极短时标精细结构，后被观测证实，得到国际同行高度重视。90年代提出并推进脉冲星实测研究项目，托举了500米口径球面射电望远镜（FAST）的立项。

为打破天文研究长期缺乏天体光谱的瓶颈，20世纪80年代末提出超大规模有缝光谱巡天思想，与苏定强等共创大天区面积多目标光纤光谱天文望远镜（LAMOST）的基本方案，被国家列为重大科学工程（并担任科技委主任），成为世界天文大规模光谱观测的典范。2008年LAMOST由崔向群带领技术团队建成，成为中国光学天文学研究的最主要平台。

1999年王绶琯发起成立了北京青少年科技俱乐部，旨在为明日杰出科学家铺路搭桥。创设的青少年科学教育范式为国家采纳推广。

王绶琯为中国科学事业发展做出重大贡献。1978年全国科学大会上被表彰为全国先进科技工作者，1985年获国家科学技术进步奖二等奖，1996年获何梁何利科技进步奖、同年获全国先进科普工作者称号。2012年获中国天文学会90周年最高荣誉奖，2018年当选中国十大科学传播人物，2019年获中国科学院杰出科技成就奖，2021年被授予第八届全国道德模范荣誉称号。

1993年3171号小行星被命名为王绶琯星，永耀苍穹。