生于东京，卒于东京。父亲是一家小制药厂老板。童年时期常跟随父亲观看卓别林的电影。1955年进日本国学院财经学部读书，和同学组织电影研究会，拍过两部黑白短片。1960年，成为岩波电影制作所的签约副导演。1962年，与土本典昭、黑木和雄、东阳一、羽仁进等人组成电影运动团体“青之会”。1964年脱离大制片厂，开始转向独立纪录片制作。1966年完成了纪录片《青年之海——四个函授生的故事》。1967年拍摄了纪录片《压制的森林——高崎经济大学斗争的记录》和《现认报告书——羽田斗争的记录》。

1968年开始，他率领摄制组持续记录了日本千叶县三里塚地区农民为反对政府征用农田修建成田机场而发起的斗争。经过11年的拍摄和制作，最终完成了时长16小时的《三里塚》系列，包括《日本解放战线：三里塚之夏》（1968）、《日本解放战线：三里塚》（1970）、《第三次强制测量阻止斗争》（1970）、《第二防线的人们》（1971）、《岩山铁塔建成了》（1972）、《边田部落》（1973）、《五月的天空——回家的路》（1977）等7个部分。其中，《第二防线的人们》是纪录片史上的经典制作，获第14届德国莱比锡国际纪录片和短片电影节约瑟夫·冯·斯坦帕克奖。1975年拍摄《嗨！人间曲调——寿·自由劳动者之街》和《清洁中心访问记》，集中展示了社会底层劳工贫穷悲惨的生存状况。随后拍摄的《牧野物语·养蚕篇》（1977）、《日本国古屋敷村》（1982）、《牧野村千年物语》（1986）等立足农村的作品，逐渐深入到养蚕、种稻、祭祀等农民的日常生活细节，同时也注入了拍摄者从显微观察、植物生长、土壤、气象等角度展开的科学探究。其中《日本国古屋敷村》1984年获第34届德国柏林国际电影节费比西奖。

他凭借其亲历式的拍摄过程，使影片呈现出一种由悠长缓慢的时间节奏和大跨幅的时间尺度为标志的宇宙观、历史观，实现了社会批判力与民俗学想象力的有机结合。他不遗余力地促成纪录片工作者的联合，在亚洲乃至世界范围内推广和促进纪录片文化的交流。在山形市政府的支持下，1989年他参与创办了日本山形国际纪录片电影节。从1993年的第3届开始，电影节专设“小川绅介奖”，专门扶持亚洲的纪录片制作者。他与土本典昭一起，被誉为战后日本纪录片的两座丰碑。其生前在各地的讲演，经由日本电影评论家山根贞男整理，编为《收割电影：追寻纪录片中至高无上的幸福》一书。