生于上海青浦，卒于美国。清光绪二十二年（1896），毕业于上海清心书院。光绪三十四年，赴美留学。宣统三年（1911），获伍斯特学院理学士学位，并入哥伦比亚大学师范学院学习。1914年，获哥伦比亚大学师范学院教育学博士学位，为中国留美获哥伦比亚大学教育学博士学位第一人。同年回国，任商务印书馆编辑。1915年，任国立南京高等师范学校教务主任，参与筹办南京高等师范学校。1919年，任校长。1920年，筹建国立东南大学，并于次年兼任校长。后南高师商科扩充改组，迁址于上海，成立上海商科大学（上海财经大学前身），郭秉文兼任校长。执掌南高师和东南大学期间，郭秉文尤重延师，所聘教授皆为一时英秀，并广邀世界著名学者来访，美国教育家J.杜威（John Dewey）、英国哲学家B.A.W.罗素（Bertrand Arthur William Russell）等曾到校讲学。1923年起，连续三届当选为世界教育会议副会长兼亚洲分会会长。1925年，任中华教育促进会会长。1926年，与P.孟禄（Paul Monroe）发起组织华美协进社，任社长。1931年，任南京国民政府工商部国际贸易局局长。1941年，任重庆国民政府财政部常务次长兼中央贸易协会主任。第二次世界大战后，任联合国善后救济总署副署长。晚年创立中美文化协会，从事中美文化交流活动。1947年，移居美国。

郭秉文提出“三育并举”的教育宗旨。“三育”即坚强的体魄、充实的精神以及道德、学术和才识。这一宗旨的提出，旨在使学生养成完善的人格，成为一个对国家负责的国民。办学方针上，强调5个平衡：通才与专才平衡、人文与科学平衡、学术与事功平衡、师资与设备平衡、国内与同际平衡。办学措施上，提出“严格甄审，宁缺毋滥”的招生原则，入学考试兼采心理测试。德育上，重视品德教育，注意培养学生自觉、自治的精神。主张男女平等，招收女生。还主张效仿哥伦比亚大学兼办师范学院的模式，将高等师范学校并入综合大学，“寓师范于大学”，使学生获得更全面的发展，以培养高质量的师资。并强调师范生必须出类拔萃，除应具有普通大学生的基本素质外，还要重视研究教材和教法。另主张大学自治，办学独立；学者治校，发展民主治校体制；学术自由，提出“自动主义”，培养学生的独立人格和自治素养。

郭秉文是在国际舞台上活跃的中国教育家，是中国现代大学的奠基人之一。他所主持的国立东南大学，是中国最著名的现代大学之一。其博士学位论文《中国教育制度沿革史》（The Chinese System of Public Education），是中国最早的教育制度史著，对中国教育史学科在中国的建立做出了重要贡献。他还著有《民国十一年之高等教育》《中国近代教育之进步》等。