其家族世居大梁（今河南开封），后迁居凤翔郿县横渠镇（今陕西眉县）。年少时就志气不群，喜谈兵论武；18岁时，上书拜访范仲淹，范仲淹知其为远大之器，故意责问他：“儒者自有名教可乐，何事于兵？”并将《中庸》一篇送给他。因此，张载幡然有志于道，求之六经。嘉祐元年（1056），张载到京师汴梁，曾坐虎皮讲《易》，听众环立，司马光也在其中。后与外甥程颢、程颐讨论道学之要，涣然自谓：“吾道自足，何事劳求？”于是放弃一切杂学，笃志经术。嘉祐二年中进士，熙宁二年（1069），因吕公著推荐，宋神宗向张载问治道，张载对以“为治不法三代，终茍道也”。当时王安石试行新法，张载不满，遂托疾辞归故里，读书讲学，蔬食饮水。他常在家正襟危坐，俯读仰思；冥心妙契，即使是半夜也立即点上蜡烛记录下来。他说：“吾学既得诸心，乃修其辞命，命辞无失，然后断事，断事无失，吾乃沛然。”可见张载笃志精思，没有须臾放松。他提倡学必如圣人，方能止步，认为知人而不知天，求为贤人而不求为圣人，是秦汉以来学者最大的通病。

张载的宇宙论，自树一宗，不是老子有生于无之说，也与当时诸家论宇宙不同。如周敦颐言太极，邵雍言先天，二程言理气，张载都不认同，他提出“气即道”的观点，认为一切事物的本体是气，在《正蒙·太和篇》中，他说“太和所谓道”，太和就是阴阳会合冲和之气。这一观点当时就受到批评，说他“以清虚一大名天道，是以器言，非形而上者”。但张载却认为气外无道，道外无气。世间事物的生灭变化都是“气化”的过程，而所谓“气化”即是道体流行。张载以气为本体探讨了鬼神为何物。他认为鬼神不过是气之一伸一屈，“鬼神者，二气之良能也”，“鬼神，往来屈伸之义”。张载在学堂两扇窗门，右书《订顽》，左书《砭愚》。程颐担心引起争端，改《订顽》为《西铭》，改《砭愚》曰《东铭》。《西铭》综合了古来圣贤所发明的人生至善理论。认为天地万物，在理上是一体的，因此只有廓然大公，无一毫自私，融化洞澈，使物我之间没有隔碍，这样才可以契会仁之本体。《西铭》的宗旨就是发挥仁之本体，使学者可以实践。

在《正蒙·诚明篇》中，张载说：“形而后有气质之性，善反之，则天地之性存焉。”这是张载对宋以前人性论的创新之处，认为天命流行并赋与万物的纯粹至善者为天地之性。气聚成形之后，万物的性质有纯驳偏正的差异，这便是气质之性。要是能变化气质，则天地之性不失其初，便能复于本然之善。天地之性并非独立于气质而存在，而是寓于万有之中的。气质之性也不是纯出于恶，只是气质有所杂糅，因此有善与不善。他告诉学者一方面应当变化气质之恶以进于善，另一方面需要扩充善者。张载认为学者修养之功，莫先于变化气质。而能变化气质的，无非是此心而已。

张载与其他宋儒一样，都排斥佛教以维护圣人之道。但是张载对佛教的批评，更多是从佛教哲学方面提出的，而不是从社会伦理角度对佛教加以抨击。张载认为佛教不知天命为何物，不能穷理才说万法皆幻。张载还对佛教轮回说提出了批评：“谓有识之死受生循环，遂厌苦求免，可谓知鬼乎？”这些对佛教的批判都较粗疏，说明张载对批判对象并无深刻了解，所反映的只是宋儒的排异心态。

张载的学问主要以易为宗，以中庸为的，以礼为体，以孔孟为极。张载深信周礼，认为后世也可实行其中的制度。认为仁政必从确定田亩边界开始，如果田亩边界确定不好，或者田亩边界屡屡更易，就会出现贫富不均，教养无法的恶政。因此他还打算和学生一起买田，实行井田制，可惜没有实行就逝世了。张载的著作有《东铭》《西铭》《正蒙》《经学理窟》《易说》等。其中《西铭》旨意尤其纯粹广大，二程门下专以《西铭》开示来学。