为平安时代末期武将源义朝第三子，幼名鬼武者。1158年（保元三年），任皇后宫权少进。1159年（平治元年），补任右近卫将监、右兵卫权左等职。同年，源义朝等人发动企图推翻平清咸的平治之乱时随父亲起兵，兵败后被捕，流放伊豆蛭岛（今静冈县内）20年。其间，广结武士，谋求东山再起。

1177年，与伊豆地方豪族北条时政之女结婚，实力增强。1180年（治承四年），响应皇子以仁王令旨举兵讨伐平氏，在石桥山战役中大败，逃至安房。后得到三浦、千叶氏等强大武士的支持，重整旗鼓攻入镰仓，并以镰仓为基地积蓄力量，设侍所，创建御家人制。1184年（元历元年），设置公文所、问注所等机构，并派其弟义经率军西征，讨灭源义仲。1185年（文治元年），发动一谷、屋岛、坛浦三大战役，最后在坛浦之战中消灭平氏。同年，以追捕接近院厅的源义经为理由，任总追捕使，总地头之职，并在各地设守护、地头，利用亲信九条兼实等公卿巩固他在朝廷的地位。

1189年（文治五年），亲自率军讨伐奥陆的藤原泰衡，确立全国武家政治体制。1190年（建久元年），入京任权大纳言、右近卫大将，不久辞职。1192年7月，被任命为征夷大将军，正式建立镰仓幕府，掌握军政大权。建立日本历史上第一个武士政权。从此，镰仓幕府正式诞生。1195年，为重建东大寺竣工作佛事再次进京向朝廷显示威风。据说在相模川桥作佛事的归途中落马而死。