生于东京府北丰岛郡泷野川町（今东京都北区），卒于东京都多摩市。1岁时随父母到中国沈阳生活，16岁时回到日本接受高中教育，1943年考入东京大学医学部。日本临近战败时，因不愿“殉国”，伪造病历返回沈阳，后于1946年随侨民撤回日本。1948年，从东京大学医学部毕业后，成为《近代文学》杂志同人并参加花田清辉的“夜之会”。受“夜之会”与《近代文学》的影响，接触到马克思主义与超现实主义，开始在思想上靠近共产主义。1951年加入日本共产党，但后来因党内意见分歧，于1962年被日本共产党除名。

1948年，凭借小说《道路尽头的路标旁》，开始在日本文学界崭露头角。1951年，小说《墙——S·卡尔玛氏的犯罪》和《红茧》分别获得第25届芥川奖和第2届战后文学奖。安部公房此时的文学创作带有明显的存在主义色彩。在《墙——S·卡尔玛氏的犯罪》中，主人公卡尔玛氏在清晨醒来后，发现无论如何都记不起自己的姓名。失去名字的卡尔玛氏随即失去在现实的存在权，成为人们批判的对象。最终，卡尔玛氏在经历各种荒谬而奇特的事件后，化作一面墙。小说《红茧》则讲述了一个无家可归的男人在黄昏时分变成红茧的故事。这两部作品是安部公房早期文学创作中的两大创作主题——“疏离”和“归属”被确立起来的标志，与安部公房早年在中日两国的生活经历密切相关。

其后在超现实主义的影响下，安部公房的文学创作逐步显现出前卫先锋的实验风格。1962年，小说《砂女》的出版标志着安部公房超现实主义文学创作风格的成熟。《砂女》中，身为教师的主人公仁木顺平在假期期间外出采集昆虫标本，通过当地老人的介绍，借宿在一处位于砂穴内且住着一个独身女人的农家。当仁木顺平次日醒来发现通往地面的绳梯被撤走时，才意识到自己被囚禁在砂穴之中。于是，仁木顺平不得已与女人开始同居生活。虽然有人向砂穴内提供生活物资，但是困在其中的他们毫无行动的自由。女人的日常活动是不停地挖沙。仁木顺平曾劝她放弃这种压抑自我存在、只求苟活的机械行为，但毫无用处。虽然仁木顺平后来与女人发生肉体关系并从中获得短暂的快乐，但也没有放弃逃离砂穴的想法。直到女人因怀孕要被送往医院时，仁木顺平才再次见到通往地面的绳梯。然而，此时的他意识到，不知从何时开始自己已变得无心逃离。《砂女》一经问世便受到日本文学界的广泛关注，其前卫的超现实主义风格在日本战后文学中独树一帜，令安部公房跻身日本现代文学的代表作家之列。1963年，《砂女》获第14届读卖文学奖，次年由安部公房改编成剧本并被导演敕使河原宏拍摄为同名电影。

在戏剧创作方面，安部公房自20世纪50年代起便一直活跃于戏剧领域。1955年，组建“零之会”,开始尝试实践“先解构现实再有意识重构”的戏剧理念，通过让演员在戏剧中先分解动作再以写意方式表演的形式，确立了独具安部公房个人特色的戏剧风格。1973年，安部公房成立戏剧团体“安部公房Studio”，正式投身独立戏剧的创作及演出工作。在安部公房的戏剧作品中，《朋友》和《绿色长筒袜》比较有代表性，分别获得第3届谷崎润一郎奖和第26届读卖文学奖的戏曲·剧本奖。

20世纪80年代以后，安部公房的文学创作开始关注由现代文明带来的强烈危机感。1984年的小说《方舟樱花号》聚焦核战争与人类生存的问题，讲述了主人公建造核避难所的悲喜人生。1991年的小说《袋鼠笔记》则讲述了因患怪病而使用生命维持装置的主人公在商业化的冥界辗转游历的奇妙故事。1992年，在创作《飞翔的男人》期间突发急病被送至医院救治，次年因心脏衰竭去世。《飞翔的男人》延续了安部公房反思现代文明的主题，试图探讨如何在现代都市的文明迷宫中探寻通往未知他者的道路。