正式创建于1916年。1950年中国全国地质机构调整时撤销。其最早为1912年成立的南京临时政府实业部矿务司地质科，是中国最早出现的以“地质”命名的机构，章鸿钊（1877～1951）任科长。1912年中华民国政府迁至北京，实业部分为工商部和农林部。矿务司地质科隶属于工商部，并改由丁文江（1887～1936）担任科长。1913年工商部地质科正式改名为“工商部地质调查所”，改制后地质调查所的职能由行政管理转变为实际调查、资料积累和学术研究。1914年工商部与农林部合并为农商部，地质调查所更名为“农商部地质调查所”。由于缺乏人才，地质调查所成立的头三年很少开展工作。为了解决人才问题，在地质调查所成立的同时设立了以培养人才为目的的地质研究所。1916年地质研究所的学生毕业，从此中国近代第一个地质机构开始正常运转。

由于政局动荡，地质调查所的隶属关系频繁变更。1916年1月农商部地质调查所改名为“地质调查局”，由矿政司司长张轶欧兼任局长，丁文江与矿政司顾问安特生（1874～1960）任副局长。同年10月地质调查局又改为“农商部地质调查所”，由丁文江任所长。1920年地质调查所由农商部矿政司划归农商部直辖。1927～1928年，地质调查所改名“中央地质调查所”，但时间很短。南京国民政府成立后设农矿部，原北京政府农商部地质调查所又隶属于南京政府农矿部，于是称为“农矿部地质调查所”。1928年夏，地质调查所改隶大学院，名称前一度冠以“大学院”字样，后仍改为农矿部直属机关。1930年农矿部与工商部合并为实业部，该所改称“实业部地质调查所”。1938年实业部与相关机构合并改组为经济部，该所又定名为“经济部地质调查所”。20世纪40年代，省立地质调查机构纷纷建立。为便于区别和避免名称频繁更替，1941年定名为“中央地质调查所”。

该所初创时期有20余人，20世纪中叶发展到上百人；机构设置也从地质、矿产等几个部门发展到地质调查、土壤调查、矿物岩石研究、地性探矿研究、古生物学研究、新生代研究、地震研究、燃料研究、工程地质研究等多个研究室。该所先后组织过几百次地质考察，绘制了中国东部地区地质图，出版了中国大部分地区的区域地质专著和矿产资源考察报告，开拓了许多地质学科的科研领域。从工作区域看，该所除蒙古、西藏以外，考察范围遍及28个省。仅在抗日战争最困难的1940年的上半年，地质调查所就有近20个考察队在野外工作。这一年形成零散及局部地质报告在500篇以上，百万分之一地质图及地质专报附图也有不少出版。该所先后创办9类17种地质学刊物，其中《中国古生物志》的甲乙丙丁4种刊物一直延续出刊。地质调查所在支援国家经济建设、出版地质刊物、培养地质人才、促进中外地质学交流等方面均做出了突出的贡献。