生于苏尔特附近柏柏尔部落的一个游牧民家庭。信奉伊斯兰教。上中学时参加政治活动，崇拜纳赛尔。1959年，组织青少年革命支部。1961年，在班加西利比亚大学学习历史。1963年，进入班加西军事学院学习，秘密建立“自由军官组织”，策划推翻伊德里斯王朝的活动。1965年毕业，获少尉军衔。1966年，在英国受训，回国后授上尉军衔。1969年9月1日，以自由军官组织为核心力量发动军事政变，成立阿拉伯利比亚共和国，任革命指挥委员会主席兼武装部队总司令，晋升为上校。1970年，兼任总理和国防部部长。

从1973年起，卡扎菲发动“人民革命”，建立各级人民委员会。出版《绿皮书》（1976，1980），倡导“世界第三理论”，既反对共产主义又反对资本主义，主张推行伊斯兰社会主义和泛阿拉伯主义。1977年，实施改革，改国名为阿拉伯利比亚人民社会主义民众国；解散原有政权机构，改设总人民委员会和总人民代表大会秘书处，自任总秘书长。1979年3月，放弃行政职务，保留“革命领导人”称号。主张进一步加强非洲团结，实现自强。1999年9月，发起召开在利比亚锡尔特市举行的非洲统一组织特别首脑会议，讨论他提出的建立非洲联盟替代非统组织的建议。2002年7月9日，非洲联盟宣布成立。2003年，卡扎菲宣布放弃大规模杀伤性武器。2004年，承诺与国际社会开展反恐合作。2011年2月，利比亚出现反对卡扎菲统治的示威游行，并很快转化为内战。8月22日，卡扎菲的反对派攻入的黎波里。10月20日，卡扎菲在苏尔特被捕后因伤重死亡。