生于苏格兰丹弗姆林，卒于马萨诸塞州雷诺克斯市。1848年，全家由苏格兰移居美国匹兹堡，童年生活非常贫困。1849年，进入当地的电报公司工作。1853年，被宾夕法尼亚铁路公司聘用并成为高级管理人员。1865年辞职，成立了卡内基-科尔曼钢铁厂。1890年，取得该钢铁厂半数以上股份，将钢铁厂改名为卡内基钢铁公司。此后通过引进最先进的生产技术和人才，改进生产管理，不断地改进钢铁生产技术，降低成本。到19世纪末20世纪初，卡内基钢铁公司已成为世界上最大的钢铁企业。1901年，将卡内基钢铁公司出售给J.P.摩根，后专心从事慈善事业。1902年，创建了卡内基基金会，同年在匹兹堡创立了卡内基·梅隆大学。此后几年，又针对特殊群体建立了若干基金会，如以奖励英雄、抚恤家属为主要目的的“英雄基金会”和以大学教授为主要对象的“养老基金”等。此外，还累计捐款1200多万美元建立了3500多座图书馆。晚年几乎将其财产全部捐出。被美国权威期刊《大西洋月刊》评为影响美国的100位人物第20名。