太原祁（今山西祁县）人，东汉末司徒王允之兄子。王允设计杀董卓，董卓部将李傕、郭汜攻入长安（今陕西西安），杀王允并其全家，王凌逃归乡里。后举孝廉为吏，为发干长，后迁中山太守。坐事，髡刑五岁，当道扫除，遇曹操获赦，任为丞相掾。曹魏代汉后，魏文帝拜王凌散骑常侍，出为兖州刺史，以功封宜城亭侯。魏明帝即位，历任扬州、豫州刺史，在任“咸得军民之欢心”“各有条教，意义甚美”。魏帝曹芳即位，迁征东将军、假节都督扬州诸军事，镇寿春（今安徽寿县），进爵南乡侯，后进位司空，仍负责江淮军政而拥有重兵。

正始十年（249），司马懿发动高平陵政变，诛曹爽，控制朝政，为安抚王凌，晋其位为太尉。王凌不满司马懿政变，表面服从，暗中筹划起兵推翻司马懿统治。嘉平三年（251）四月，司马懿获知王凌动向，亲率中军往征。面对大军的逼迫，王凌自知势单难敌，为避免战火，乃乘船单出，送上印绶、节钺，自缚投降。谓司马懿曰：“凌若有罪，公当折简召凌，何苦自来邪！”司马懿答曰：“以君非折简之客故耳。”司马懿遣步骑六百人押送王凌返京都，至项（今河南沈丘），王凌饮药自杀。王凌死后，为威慑反对者及防备曹魏宗室的反抗，司马懿将王凌及牵连者皆夷三族，已入葬的王凌被发冢、剖棺、暴尸三日，烧其印绶、朝服，裸身埋之；并将曹魏宗室王公全部集中，置于邺城，派重兵监守，命有司监察，不得与外交往。