生于大阪市天王寺区，卒于东京都港区。父亲开高正义是大阪市立鹭洲第三小学的教员，在开高健13岁时病故。丧父的第二年，因就读的大阪府立天王寺中学校舍被征用为军营，被迫辍学并在飞机场、火药库等地打杂。1949年，进入大阪市立大学法学部法学科就读，次年发表处女作《印象生活》，在学期间曾加入同人杂志《铅笔》《文学室》，毕业后入职酒商寿屋（日本企业三得利的前身）宣传科。

1957年，凭借通过描写鼠患来讽刺日本社会的小说《恐慌》登上日本文坛，成为备受瞩目的新人作家。同年在《文学界》杂志上发表小说《巨人与玩具》和《裸体皇帝》。其中，《裸体皇帝》获第38届芥川奖，是一部颇具现实讽刺意味的小说。小说讲述了画商的儿子画了一幅日本武士赤身挽髻别刀的画，他的老师偷偷将此画送到由画商赞助的画展并交给评委会点评。开始时评委们对画作大加贬损，可得知作者是画商的儿子后，不得不在尴尬和窘迫中相继逃离，留下老师在一旁捧腹不止。

1960年，开高健作为日本文学代表团的一员前往中国访问，与茅盾、老舍等作家进行座谈并受到中央领导人的接见，当时同行的还有野间宏（团长）、大江健三郎、龟井胜一郎、松冈洋子和竹内实。1964年，开高健作为《朝日新闻》临时海外特派员奔赴越南战场实地考察越南战争，经历了与前线士兵同吃同住、九死一生的战地生活。回国后，创作了一系列以越南战地经历为题材的长篇作品，如随笔《越南战记》（1965），小说《光辉的黑暗》（1968）、《夏日之暗》（1972）等。其中，《光辉的黑暗》以第一人称视角讲述了主人公在越南战场参军、卷入激烈战斗并奇迹生还的故事，被认为是开高健文学创作的转折点；小说《夏日之暗》则讲述了主人公在越南战场上迷失自我并在黑暗中寻求超越的心路历程，被开高健自己视为“第二处女作”。

越南战地之行后，开高健在工作上开始频繁前往法、德、美等国采访，在生活中则经常享受钓鱼、打猎，并创作出一系列纪行文学作品。1989年，因食道癌和肺炎逝世。

开高健的文学创作主题丰富，早期创作主要关注日本青年知识分子身处战后日本社会的空虚、迷茫心境，以及资本主义在日本经济高速发展中对人性的异化和扭曲。这一时期，他主要通过文学创作探寻现代日本社会问题背后的深层原因。越南战争后，开高健的文学创作展现出对和平与世界格局的思考，而其笔下的一系列冒险与纪行文学，则表现出作家对个体生命的价值与意义的探索。此外，开高健的重要作品还有《日本廉价歌剧》《流亡记》《玉碎》等。