隋代先后修通四段运道：山阳渎，自山阳（今江苏淮安）引淮水达扬子（今江苏仪征东南）入长江；通济渠，自西苑（今河南洛阳西）引谷、洛水达黄河，又从板渚（今河南荥阳北）引黄河水通淮河，实际是利用汴水取直航道（唐代改名广济渠）；永济渠，北起涿郡（今北京西南），南通黄河；江南河，自京口至余杭（今浙江杭州）。隋唐大运河纵向沟通了海河、淮河、黄河、长江与钱塘江五大水系。
隋文帝开皇三年(583)先后在河南、陕西运渠所在沿岸置黎阳、河阴、常平和广通等仓储粮备运。灭陈后，长安粮大部由江淮输送。炀帝又置洛口、回洛仓，储粮达2,600万石。
唐初，水陆运抵关中之粮仅一二十万石左右。高宗至玄宗前期，因河南至关中运道艰险，唐廷被迫常驻东都（洛阳）“就食”太原、洛口仓（分别在陕州与巩县）的巨量积粮。开元中期以来，天下漕粮愈益以江淮为重。裴耀卿主持漕政后，改“长运法”为转般法，按江南之舟不入黄河，黄河之舟不入洛口的原则，于沿河就势设仓，节级转运。天宝元年(742)，李齐物于三门峡附近凿开元新河；不久，韦坚又开挖一条与渭水平行的漕渠，最终避开了运道下段的车载陆运，使最高运额达400万石。安史之乱，漕路曾一度改以长江入汉水，由陆路抵扶风（今陕西凤翔）。广德元年(763)，刘晏主漕政，针对时弊进行了包括创行纲运法（以十船为一纲）在内的全面改革，成效甚著。德宗时中原藩镇割据，扼断运路，韩滉从镇海军（驻江苏镇江）载江南粮，武装押运，直抵中原、关中，转般法中止。宪宗元和年间(806～820)因李巽、王播等人的努力，曾一度恢复刘晏时的漕运水平。唐末漕政大乱，年运江淮米不过40万石，至关中仅10余万石。
