生于明斯克,卒于莫斯科。1948年毕业于乌拉尔大学新闻系。参加过卫国战争,获红星奖章、卫国战争二级勋章、人民友谊奖章。1947年开始发表作品。1951~1953年在摩尔多瓦基什尼奥夫市的《十月》杂志和《苏维埃摩尔多瓦报》上频繁发表作品,正式走上创作道路。1956年加入苏联作协。
初期主要创作讲述战后国家生活的特写作品,包括《春》《爱好和平的人们》《基里尔·布扎的思绪》《早上好》《斯大林格勒街》《在自己家中》等。它们秉承20世纪50年代苏联特写小说的体裁特征:小说关注的是劳动者,他们不断克服生活和生产中的困难,文风抒情而写实,洋溢着乐观基调。上述作品收录在1955年出版的第一部小说集《城里人》中。
1956年后的作品均为中长篇小说,60年代中期声名鹊起。这时期的《夜莺》(1963)、《涟漪》(1966)、《五天休息》(1967)、《发射》(1968)、《往返》(1970)、《极限可能》(1977~1978)、《地位的效果》(1979)等都是“生产小说”,即在生产建设中反映主人公的性格和命运。作家选取重要的时间节点展现人物的一生,说明人生的每个瞬间都饱含意义,甚至有宿命的意味。这方面的代表作有1978年的《旧账》。小说主人公是某省大型工厂的厂长亚历山大·彼得罗维奇,他充满人格魅力,富有才华,因重病走到生命尽头,临终前希望得到曾经爱过的两个女人的原谅。他的现任妻子给她们发去电报,尽管两位女士的生活已经远离这座城市,她们还是赶了过来。此类作品还有中篇小说《逃跑》《日历上的空白》《尘世欢乐》(1985)、《夜班有轨电车》(1988)等。在其生命的最后几年更多地关注斯大林迫害、权力不公等主题,此类作品有《敲门》(1989)、《法律之外》(1995)、《最后一分钱》等。
格拉西莫夫的小说被译为罗马尼亚语、匈牙利语、波兰语、捷克语,许多作品被改编为影视剧、话剧等。