其前身是1957年元旦成立的中国自然科学史研究室，首任室主任是学部委员李俨。1978年以来的历任所长为仓孝和（1978～1981）、席泽宗（1983～1988）、陈美东（1988～1993）、廖克（1993～1997）、刘钝（1997～2005）、廖育群（2005～2009）、张柏春（2009～）。

在竺可桢副院长主持下，中国科学院在1954年成立中国自然科学史研究委员会，并在历史二所设立自然科学史研究组，1957年元旦正式成立科学院直属的中国自然科学史研究室。该研究室逐步发展为多学科和综合性的科技史研究机构，1975年扩建为自然科学史研究所，由段伯宇主持工作。1977年隶属由中科院哲学社会科学学部改名成立的中国社会科学院。1978年1月自然科学史研究所重归中国科学院，此后，研究领域实现由古代到近现代和由中国到世界的拓展。内部机构设置几经调整，现有中国古代科技史研究室、中国近现代科技史研究室和西方科技史研究室，以及中外科技发展比较研究中心、科学与社会研究中心、科学传播研究中心。附设中国科学院文化遗产科技认知研究中心（院非法人研究单元）、中国科学院学部科学文化研究支撑中心。全所编制规模为97人，在读研究生规模约为50人。

以“究天人之际，通古今之变”为所训，主要研究科学技术的历史与发展规律，并探讨科技哲学、科技考古、科技战略和科学文化等学科领域的学术问题，在中国科技史及相关研究领域具有学术优势，形成了以学科史研究为基础、严谨考证史实并进行阐释的学术传统，为沟通科学与人文、实施国家科学文化工程和建设科学思想库作出贡献。此外，在国内率先培养科技史研究生和博士后。1957年开始招收科学史硕士研究生，1981年获自然科学史博士学位授予权，1997年拥有科学技术史（理学一级学科）博士学位授予权。2002年开始招收第一个博士后，还培养科学技术哲学硕士研究生和博士研究生。截至2019年，已经为400余位毕业生授予博士或硕士学位。

组织实施了中国科学院和国家有关部门支持的科研项目及国际合作项目，代表性重大科研成果包括《中国科学技术史》（26卷）、《中国天文学史大系》《中国物理学史大系》《中国传统工艺全集》《中国古代建筑技术史》《中国古代工程技术史大系》《中国近现代科学技术史研究丛书》《中国古代地图集》《中国科学技术典籍通汇》和《中华大典·数学典》等专著及文献研究丛书，以及曾侯乙编钟工艺复原、夏商周断代研究等。多项成果获得国家部委、中国科学院、中国社会科学院和其他国内外学术机构及组织的奖项。席泽宗因《古新星新表》等研究成果而当选中国科学院院士。多位学者在国际学术组织和国际学术期刊编委会中担任重要职务。

拥有国内最大的科技史专业图书馆和一个实验室，馆藏中外文书刊18万册，包括线装古籍3800余种和5万余册外文书刊。刊物有《自然科学史研究》（前身为1958年创刊的《科学史集刊》）、《中国科学技术史》（Chinese Annals of History of Science and Technology，英文）、《中国科技史杂志》和《科学文化评论》。