中国古代黄河流域农田水利开发较早，逐渐向南发展。隋唐以后，随着经济重心南移，南方农田水利迅速发展起来，并逐渐超越了北方。

传说大禹在治理洪水时“决九川”“浚畎浍”。商代的甲骨文中，也有表示田间沟渠的文字。到周代，和井田制配合的沟洫工程已较为系统了。《周礼·地官·稻人》称：“稻人，掌稼下地，以潴蓄水，以防止水，以沟荡水，以遂均水，以列舍水，以浍泻水，以涉扬其芟作田。”可见当时的沟洫工程设有“潴”（湖陂）、“防”（堤岸）、“沟”（干渠）、“遂”（支渠）、“列”（田塍）和“浍”（排水沟），灌排水利设施已基本具备。

春秋时随着铁农具的使用，劳动生产率迅速提高，水利工程的规模有了扩大。如楚庄王时期，孙叔敖在淮南地区主持创建了雩娄灌区，不久在今安徽寿县又建成了大型蓄水灌溉工程芍陂（一说子思造芍陂，约后于孙叔敖300多年）。随后楚国还“数疆潦、规偃潴、町原防、牧皋隰、井衍沃”，根据地形条件兴修陂塘、渠道等不同水利工程。

战国至西汉时期，随着封建制度的确立和巩固，农田水利建设迅速发展，兴修长距离的引水灌溉工程逐渐代替了之前以排涝为主的沟洫工程。战国时期以魏国和秦国成效最大。秦在西蜀、关中先后创建了都江堰和郑国渠两大灌溉工程，使这两个地区成为“天府”和“沃野”之地。魏国于战国初年在邺地修建漳水十二渠，改良了盐碱地，邺地由此富庶起来。西汉时兴修的农田灌溉工程主要分布在关中地区，其次为西北地区。汉武帝时开漕渠引渭水，修建龙首渠首创“井渠法”，之后修建的灵轵渠、成国渠等皆引川谷水。在与关中一河之隔的河东郡则穿渠引汾、引黄河水进行灌溉，不过这项引汾引黄工程未达到预期效果，最终废弃了。在西北地区，汉代开展大规模的军垦和民垦来进行开发。其中武帝元鼎六年（公元前111年）在今山西西北部、内蒙古和宁夏河套及甘肃河西走廊一带就有约60万兵士从事屯垦，引河流及川谷水灌溉。在今新疆的轮台、沙雅、吐鲁番等地及青海的湟水流域也都实行屯田，屯区多建有灌溉渠系。

战国至西汉时期，陂渠串联、陂塘蓄水、凿井等其他灌溉工程形式也相继兴起。最早的陂渠串联是战国时在襄阳建成的白起渠，它从汉水支流蛮河开渠引水，将沿途的大小陂塘串联起来。汉元帝南阳太守召信臣在今唐白河流域修建多处陂塘，其中六门陂下联29个陂塘。此时期井灌也逐渐开始用于大田作物灌溉，新疆利用地下暗渠来汇集地下水引水灌溉的坎儿井，也有人认为是借鉴了龙首渠创制的“井渠法”。

这时期在渠道施工技术上有了实践经验的积累，在水利理论方面也作了初步的探讨。如《管子》中描述了水流运动时的水利现象，提出了明渠、排水沟和堤防的设计要求。对选择合适的施工季节，《吕氏春秋》中也有详细说明。

三国、两晋和南北朝是中国历史上大动荡、大分裂的时期，北方战乱多，农田水利遭到严重破坏，而南方则相对稳定，农田水利的重点也逐渐移向江淮流域及其以南发展。淮河流域多丘陵，陂塘水利在以往的基础上迅速发展。东汉时汝南太守鲍昱、何敝先后修理旧有陂塘，王景和许杨分别对著名的芍陂和鸿隙陂进行大规模的修复工作。曹魏为军事需要在淮河流域大量屯田，兴修陂塘。《水经注》中记载淮河流域的100多个陂塘，大部分为东汉、曹魏时期所建。晋代在丹阳修建的练塘和新丰塘，溉田都有数百顷。在长江上游，如王莽时文齐在云南昭通、滇池曾修造过陂池，在四川、贵州、广西、广东等省区，也都有汉代陂池模型出土。在长江中游的南昌、武昌、安陆和常德等地，也都建有农田水利工程。如安陆一带就有“陂池沃衍”之称。这时期长江下游的圩田，尤其在太湖流域和安徽沿江地区，也有明显发展。

北方地区这一时期水利修建较少，但是东汉、曹魏对华北水利还较为重视。东汉初年在狐奴（今北京顺义东北）引潮白河水种稻田8000余顷；元初二年（公元115年），扩建漳水渠，同年又修理华北各地旧渠。曹魏在关中地区兴修成国渠、临晋陂等灌溉工程，在洛阳地区重新修复千金堰等旧渠，在邺城地区兴修了天井堰和漳渠堰两项水利工程。西晋北朝时期，除西晋短暂统一全国外，其余时期北方战乱频繁，灌溉水利失修，仅在相对稳定的时期，于各政权中心修复了一些灌溉工程。如北魏时修理了蓟城戾陵堰和涿州督亢陂两项工程。

这时期的水利文献，以北魏郦道元编著的《水经注》最著名。该书为了解和研究古代河道和水利工程提供了丰富的资料。

隋、唐和宋朝，随着国家统一、社会相对稳定，以及社会生产力的发展，农田水利也取得了很大进步。据《新唐书·地理志》等记载，唐代修建的农田水利工程达1130多项。“安史之乱”是唐由盛而衰的转折点，这期间战火遍布黄河中下游，使得北方农业经济急剧下降，而南方相对稳定，全国经济重心南移，南方农田水利工程逐渐多于北方。唐以后南方水利持续发展，北方则相对衰落，但在北宋熙宁（1068～1077）年间，全国曾出现过兴修水利的高潮，熙宁三至九年（1070～1076），全国共兴修水利10793处，受益土地面积达3611.78万亩。

南方农田水利类型多样，除引水渠系外，还有蓄水陂堰、沿海挡潮蓄淡工程和洼地圩田等。引水渠系，唐前期都江堰灌区有很大发展，宋代灌区扩大到12个县。湖北襄阳、宜城的长渠和木渠，宋代进行大规模修建后，溉田均达数千顷。蓄水陂塘，唐代淮南、江浙、皖南、赣北塘堰水利都很发达，宋代向福建、湖南以南推进，连海南岛也修建了陂塘。挡潮蓄淡工程，东南沿海地区受海潮威胁，汉代就有修筑防御海潮的工程，但大规模发展是在唐代。隋唐时期东南沿海地区开发较快，修筑了许多防御海潮的海塘工程。与海塘配合的还有堰闸工程，以拒咸蓄淡，是中国东南沿海地区创建的特殊灌溉工程类型。唐代在浙江宁波兴建的它山堰，南宋在福建莆田兴建的木兰陂都是此类工程的典型。圩田工程，这时期以太湖、古丹阳湖地区最为集中。太湖流域随着太湖湖堤和沿海海堤系统的建成，中唐以后逐步形成了塘浦圩田系统，五代吴越时进一步完整和发展，到宋代太湖流域已成为中国重要的粮食基地。古丹阳湖地区南宋时圩田至少有千余多所，面积达数百万亩。此时期长江中下游及珠江三角洲地区的圩田也有开发。北宋时长江中下游地区圩田工程技术以芜湖县的万春圩为代表，珠江三角洲以南海、顺德间的桑园围为代表。

隋唐时建都长安，关中水利得到重视。隋代在今武功县一带引漆水的灌溉渠道，溉田数千顷。唐代引泾的郑白渠多次修建，唐初灌溉面积达1万余顷。引渭、洛引黄灌溉唐前期都有较大发展。中唐后灌溉面积下降，宋代重维修泾渠，灌溉面积只有3600顷左右。相传建于汉代的汉中地区山河堰，宋代曾对其进行过多次维修，灌溉面积也从4万亩增加到23万亩。华北地区唐前期水利得到普遍修建和发展，山西汾河平原不仅引地表水灌溉，还开发泉水灌溉；河北引漳灌区、太白渠灌区都有改建工程，又在海河平原兴修不少排涝防洪工程。唐后期华北藩镇割据，修建工程很少，北宋时水利又得到重视，以兴建河北塘泊工程和熙宁间大规模放淤最具特色。

唐宋期间灌溉机械有很大发展，除戽斗、桔槔、辘轳这些简易机具外，水车已经广泛使用，南宋时筒车也在南方山区流行。

农田水利的论著此时期开始出现，探讨太湖流域水利治理的有郑亶、郑侨父子的《水利书》、单锷的《吴中水利书》等。论述一个灌区的水利著作有南宋魏岘的《四明它山水利备览》等。唐代的《水部式》，是现存最早的水利法规，它反映了当时北方地区农田灌溉的管理制度。

元明清时期经济重心在南方，对南方经济依赖程度远胜前代，故国家重视东南财赋之地水利的建设与治理，所以南方水利持续发展，北方除京畿地区外，农田水利渐趋衰落。

长江、珠江流域圩田有很大发展，尤以两湖平原和珠江三角洲发展最为迅速。如江汉平原，明后期对潜江、沔阳等县各有垸田百余所，清乾隆时沔阳垸田猛增到1367个。清末，荆江“南北两岸，几乎无段无洲，无洲无垸了”。洞庭湖区的垸田，北部地区大多修建于明代，南部则多筑于清代。据统计，明代有100多所，至清末增加到1000多所，面积约有600多万亩。珠江三角洲的圩田又称基围，开始于宋代，主要在珠江的西、北、东三江下游两岸筑堤建围，元代继续增建，明清时迅速向滨海地区扩展。元明清时西南和台湾地区的水利得到开发。西南地区小型塘坝水利有较大发展，著名的云南滇池水利多次修治，雷州半岛元代也修建拒咸蓄淡灌溉工程。台湾地区明代开始兴修圳（渠）埤（塘）等小型灌溉工程，清代修建了彰化八宝圳、高雄曹公圳等规模较大的灌溉工程。

元明清三代都建都北京，为减少对东南地区经济的依赖，在畿辅地区兴办过时断时续的营田水利。元代虞集首先提倡畿辅营田水利，以后汪应蛟、左光斗等又在天津兴修屯田水利。清代以雍正时怡贤亲王允祥主持的营田水利规模最大，共营成水田6000余顷。古老灌区如关中引泾灌区、汉中山河堰灌区、南阳陂堰、豫北丹沁灌区、河北漳洹灌区、安徽芍陂灌区都有维修工程，但大部分灌区时兴时衰，逐步败落。民间为战胜灾害，兴办的小型水利增多，井灌得到推广。这时期西北边区灌溉事业仍有发展。清代在新疆大兴屯田，兴修水利，清末灌溉工程已分布于天山南北的20个州县，清后期坎儿井在吐鲁番一带发展很快。甘肃、青海河湟地区、宁夏和内蒙古后套的灌溉事业，也在前代的基础上不断发展。如宁夏引黄灌区，元初郭守敬修复唐徕、汉延及其他十余条干渠，灌田900多万亩。清代在黄河西岸建大清、惠农、昌润三渠，与唐徕、汉延渠合称河西五大渠。

元明清时期关于农田水利方面的著作有数百部之多。如记述地区水利的有明代张国维的《吴中水利全书》、清王凤生的《浙西水利备考》、黄世杰的《云南省城六河图说》、吴邦庆的《畿辅河道的回礼丛书》等。记述单项工程的如清程鸣九的《三江闸务全书》等。专记一个灌区的有元李好文的《长安志图》、清王庭芝的《通济堰志》等。