原籍台北。生于北京，卒于美国波士顿。少年时代受其父张我军翻译日本人西村真次所著《人类学泛论》的影响，对考古人类学产生最初的兴趣。1950年考入台湾大学考古人类学系，从李济、凌纯声、高去寻等学习。1955年入美国哈佛大学，研习考古学、人类学。1960年获博士学位。此后长期任教于美国耶鲁大学和哈佛大学，并曾先后担任两校人类学系主任、东亚评议会主席等职。

田野工作主要集中于台湾地区，20世纪60～70年代先后主持凤鼻头遗址和大坌坑遗址的发掘及浊水溪、大肚溪流域的田野调查，将台湾史前史作了初步整合并积极推动人文和自然科学的科技整合，对以后台湾人类学和考古学的研究和发展产生深远影响。

终生致力于中国考古学和考古学理论的研究和教学。在中国史前考古和商周考古的综合研究上都有杰出贡献。他倡导以人类学的、整合的和世界性的眼光研究中国古代文明，并企图透过对中国文明进程的了解和发展模式的建立，对人类社会的一般法则作出贡献。他把世界文明分为“连续性”的和“破裂性”的两种，认为前者以中国和玛雅为代表，后者以苏美尔为代表。文明产生所依赖的财富的积累和集中，前者主要是通过政治程序即通过对生产劳动力的操纵达成，后者则主要是通过技术和贸易的途径获得。他从青铜器的研究入手，认为青铜器就是中国古代政治权力的工具。掌握青铜器的人借助青铜器及其上面的动物纹样，垄断了天地交通的工具，也因此掌握了政权。在中国文明的形成问题上，早年采用“龙山形成期”的概念，强调中原文化的核心作用；80年代以后，又提出“相互作用圈”理论，强调中国史前文化的多元性，并对前后变化的心路历程作出深刻反思。对一般考古学理论特别是聚落考古学的理论和方法也作出过重要贡献。率先提出遗址中的房屋布局和社会组织中的世系相关联的观点，强调把考古遗址当聚落看，把聚落当社群看，把考古学的“资料”转换成人类学的“现象”。在60～70年代美国考古学理论转型的过程中，他强调文化史和文化过程乃一币之两面，需相互补充，才能有所作为，为考古学理论的健康发展作出独特贡献，被誉为“唯一在中国出生而能对主流考古学理论和方法发生根本影响的学者”。作为中西方考古人类学交流的桥梁，他一方面向西方介绍中国考古学的成就，同时又把西方对中国古代相关问题的研究介绍到中国来。他还创造各种机会为国内培养人才，对海峡两岸和香港的考古学发展都有重要推动作用。

著作近300种，主要有《古代中国考古学》（1963，1968，1977，1986）、《商文明》（1980）、《中国青铜时代》（1983）、《反思考古学》（1967）和《聚落考古学》（1968）等。

1987年9月16日，政协全国委员会主席邓颖超在北京人民大会堂会见张光直