生于东京杉並区东田町。先后就读于东京杉並区第二小学、东京都立丰多摩中学及同名高中。小学时代开始跟母亲学习钢琴，高中时代开始写诗，内容以个人情感体验为主，先后发表在高中校友会主办的钢板刻印文艺刊物《丰多摩》上。高中毕业后无意报考大学，从一名普通的青年诗歌爱好者成长为职业诗人，起步时曾得助于时任日本法政大学校长、哲学家的父亲谷川彻三及父亲的好友、当时日本诗坛举足轻重的人物三好达治。由于三好达治的举荐，著名刊物《文学界》发表了新人谷川俊太郎的一组习作《〈尼罗〉外六篇》。不久后，于谷川处女诗集《二十亿光年的孤独》出版之际，三好达治再度为之作序。诗坛宿将的二度相助促成了谷川俊太郎的一举成名。《二十亿光年的孤独》展现了在战争年代及战败后的混乱之中兀现的未遭污染的年轻而纯洁的生命力，确立了谷川在诗坛上的地位。

1953年7月参加由川崎洋、茨木纪子主导的诗社并成为同人。同年底，第二本诗歌集《六十二首十四行诗》出版。1954年经小田久郎举荐跟诗人鲇川信夫一起担任著名刊物《文章俱乐部》的诗歌评选人。谷川俊太郎一生三度结婚，三度离婚。第一次婚姻是1954年，妻子是女诗人岸田衿子，两年后离异。1957年再婚，第二任妻子是话剧演员大久保知子。婚后夫妻感情不和加上长期分居，最终于1989年再度离婚。1990年与第三任妻子作家佐野洋子结婚，共同生活6年，最终还是分道扬镳。

1955年开始尝试创作广播剧本，同时期还出版了《关于爱情》（1955）､《绘本》（1956）两本诗集和随笔集《爱的思索》（1957）。1959年出版诗歌论集《走向世界！》，提出了诗歌应该探索未知世界的命题。

60年代以后，谷川俊太郎的文学活动显得更加多样化和高产。他创作广播剧，在周刊杂志上发表时事讽刺诗，参加东京奥林匹克运动会纪录片的制作及大阪万国博览会的企划，并从事大量的翻译工作。此外，《献给你》（1960）、《落首九十九》（1964）都是这一时期出版的诗集。

谷川的创作生涯迄今为止长达60余年，其中1970～2000年这30年可谓诗歌创作的鼎盛时期。从轰动一时的《天空中没了小鸟的日子》的刊行开始，到《温柔并不是爱》的出版，仅单行本诗歌集就出版了35本之多。其中《定义》（1975）、《日语说明书》（1984）、《裸体》（1988）、《灵魂最好吃的部位》《内向的年轻人》（1990）、《致女人》（1991）、《听莫扎特的人》（1995）等等都是脍炙人口之作。

2000年以后，谷川由于年事已高，虽然诗歌的创作和新诗集的出版在数量上不及之前，但在文学活动和社会活动方面仍然精力充沛。2000年以后出版的十几本诗歌集中，《来自遥远的国度》（2003）、《夏卡尔与树叶》（2005）、《高雅的孤独》（2008）、《孩子们的遗嘱》（2009）、《东京叙事》（2011）等具有后期创作代表性的诗集显示出诗人审美趣旨的变化。

谷川被视为日本当代诗坛唯一的职业诗人。实际上，谷川多才多艺，除了诗歌创作之外，在剧本、歌词、翻译、文化广告及版权等方面有着相对稳定的收入。这种“创作”谋生的生存状态决定了其诗歌必然走通俗化之路，尤其是20世纪90年代末诗歌创作鼎盛期之后，一般称他为走出诗歌象牙塔跟民众打成一片的“国民诗人”。

谷川俊太郎60年的创作生涯大致可分为早期、鼎盛期和后期。其作品里显示出浓郁的日本元素和对大和古典诗歌美学的传承，对日本现代诗歌界作出了卓越的贡献。他那种基于传统美学意识的悠扬而轻缓的抒情和注重发掘日本语言本身诗意的风格，在模仿和追随西方现代诗歌为主潮的现当代日本诗歌中尤其引人瞩目。

谷川俊太郎作为诗人的生存方式和他的“国民诗歌”，可以说是针对全球化语境下的现代诗歌的挑战。他虽写诗谋生，但却不媚世，着重表达当代日本国民实际生活中的情感。他的诗歌与西方现代主义诗歌不同的一个重要特征，可谓诗歌的直观性。即便写人的内心世界，也是通过人或者在场事物的表情、语言、行为等动态形式来表达，与西方现代主义诗歌擅长的意象的跳跃、折射或者断裂有很大的不同。他有意识地颠覆了诗歌的小众路线和贵族性格。无论从诗人对外部世界的感受方式还是从诗人对生命的内省，读者都能够通过他的诗歌体会到和古典歌俳句里特有的那种转瞬即逝的无常感碎片——物哀。“物哀”未必就是那种哀伤或悲哀的单一情感。它在谷川笔下显露出来的性格，包含着赞赏、喜爱、可怜、共鸣、同情、悲伤、怜悯、壮美、感动、失望、惋惜等诸多细腻而复杂的因素。然而，这种日本民族独特的“物哀”式情感表达，由于它的直观性，故不太适合表达类似宇宙、信仰，以及人类本身的内面危机等宏观命题。事实上，随着象征派诗人巨匠辻井乔和大冈信先后退出日本诗坛，谷川所倡导的“国民诗歌”发展方向愈加凸显出对全球化大视野下的核心命题的悖离。

谷川认为日本诗歌跟西方诗歌的最大不同，在于诗人扮演的社会角色的不同。西方诗歌的主流是诗人有着某种预言者或先觉者的自觉，跟常人相比距离上帝更近。诗人的社会使命是社会文明的批判和观察预见人类文明的发展趋向，故属于人类社会的精神领袖。而谷川作为诗人，却完全不受这种意识的支配，他只注重观察常人熟视无睹的那些外部世界的生命体征。而且，他的诗歌创作“灵感”，无不来自日语语言本身，而并非得到了任何外部的“神示”或来自内在的某种“悟”。谷川的诗歌创作方法，并非走进人的内心世界。他观察世界的视角是由内向外，是一种由主体向外部世界的突围。让时间停止在生活的某一个点或某一个瞬间，诗人由此通过横断面进入，去发现普通人看不到听不见的世界并为之喜怒哀乐。写诗意味着让诗人主体彻底消失在外部世界之中，而不是让自己通过想象进入人（包括自己）的潜意识层面。

谷川俊太郎是一位精力充沛过人的诗人，85岁高龄依然创作不止。迄今为止发表过数千首自由体诗歌，出版过80余部诗集、20多本诗选，创作过250多首歌词（包括大学、中小学校歌歌词）、约300册连环画、100多本译著、数十本随笔集，此外他还为著名电影导演市川昆的纪录片写过剧本，为具有国际知名度的动画电影《铁臂阿童木》和国际动漫大师宫崎骏的作品《哈尔的移动城堡》撰写过主题曲歌词，显示出多方面的非凡才能。他的诗集的无数次重版和重印使他的诗歌走入每一位日本国民的心里。同一本诗集或诗选，重印最多的竟达50多次，销售量高达80多万册。庞大的市场需求直观地反映出他的诗歌为日本民众喜闻乐见。

谷川俊太郎在迄今为止的创作生涯中荣膺过各种大奖。其中诗歌方面获得过读卖文学奖（1983）、现代诗歌茶花奖（1985）、小学馆文学奖、野间儿童文艺奖（1988）、萩原朔太郎奖（1993）、朝日奖（1996）、21世纪鼎钧双年文学奖（2005）、每日艺术奖（2006）、诗歌文学馆奖（2008）、鲇川信夫奖（2010）等。