公元581年，北周的外戚楊堅奪取政權，建立隋朝，史稱隋文帝，定都長安。589年，隋滅了南方的陳，結束三國兩晉南北朝長期分裂的局面，重新統一了中國。此后，社會秩序逐漸安定下來，農業生產得到恢復，南北加強經濟文化交流，成為客觀形勢的需要。

　　經過短短二十多年的恢復，耕地面積和作物產量，都有較大的增加和提高。隋朝政府征收的糧食、布帛，堆滿了國家倉庫。手工業有了新的發展，帶動了造船技術的提高，宏偉的戰艦上建有五層樓，非常壯觀。政府把全國幾萬家富商遷到了東都洛陽，使這里的商業盛極一時。整個封建經濟呈現出繁榮景象，對發展南北交通，加強經濟文化交流，鞏固隋朝政權，提出了更為迫切的要求。于是，開鑿大運河就提到日程上來了。

　　584年(開皇四年)，為解決都城長安(當時叫大興城)的漕運，首先修復了西漢的關中漕渠，名為廣通渠。后來為南下平陳，重新疏浚了邗溝，名山陽瀆。隋煬帝即位，下令在605年(大業元年)開始修筑大運河。首先開通濟渠，從洛陽西苑引穀、洛水入河，又自板渚引河水，向東南至盱眙(在今江蘇)對岸入淮。同時重浚拓寬江淮間運河，仍名邗溝。608年，隋朝政府向遼東用兵，開鑿永濟渠，引沁河東北流經白溝故道，和今南運河接漯水，直達涿郡(今北京)。610年，又開鑿自京口(今鎮江)至余杭(今杭州)的江南河。這樣，從584到610年的二十六年內，開浚了永濟渠、通濟渠、邗溝、江南河四大段，西抵長安，北達涿郡，南至余杭，共計兩千余公里的南北大運河。

　　大運河溝通了海河、黃河、淮河、長江、錢塘江五大水系，流經今八個省市，形成了以長安、洛陽為軸心，向東北、東南輻射的水運網絡。大運河規劃嚴密、布局合理，也十分氣派。史書上說，它“水面闊四十步……兩岸為大道，種榆柳，自東都至江都，二千余里，樹蔭相交”。

　　隋朝政權在618年唐朝建立之后就結束了，大運河對這個短暫的王朝沒有起到太大的作用，倒是對唐朝經濟的發展，起了重大的作用。因為唐朝也是建都長安，政治中心在關中，其漕運路線基本上與隋朝相同，所以沒有必要再進行大規模的運河興建。

　　唐代在安史之亂以后，藩鎮割據，政府財政收入全仰仗江淮地區，所以，通濟渠(汴河)就成了唐王朝的經濟命脈。唐代詩人皮日休，寫了一篇《汴河銘》的文章，概括了通濟渠所起的重要作用：“北通涿郡之漁商，南運江都之轉輸，其為利也博哉!”每年，來自江淮之間的大批糧食，源源不斷地用船只運到關中。

　　宋朝建都開封，這里地處平原，更有利于發展水上運輸。宋朝政府首先修復了唐朝末年以來淤積嚴重的汴河，又開鑿了由開封通往山東地區的五丈河、通往西南和南方的蔡河(惠民河)，和作為五丈河水源的金水河。這四條運河，合稱“漕運四渠”。江南地區豐富的物產，以及達官貴人、皇親國戚們奢侈生活所用的物品，源源不斷運入了大宋王朝的京城汴梁。

　　隋唐大運河是一項影響深遠的偉大工程，在歷史上起了重要作用，主要是：

　　第一，它是我國南北航運的一條重要水路通道。當時通過運河水道，把東南部的糧食物品運到北方，比起陸路運輸，運量大，運費低，更加便捷、安全。據記載，唐玄宗時，長安城有一個廣運潭，可容各地的商船駛入。有一次，水陸轉運使韋堅在潭上舉辦博覽會，有三百多只大船，陳列著來自江淮地區琳瑯滿目的各種物品，讓人目不暇接。

　　第二，由于大運河的興建，運河沿岸興起了一批商業都市，如同璀璨的明珠，鑲嵌在運河岸邊，成為經濟中心，對商品經濟的發展和社會進步，起到了積極的促進作用。著名的古城揚州，從唐代開始，走向繁榮，成為運河上的一座重要的城市。它“兼水漕陸挽之利，有澤漁山伐之饒，俗具五方，地綿千里”，具有很大的吸引力，所以有“故人西辭黃鶴樓，煙花三月下揚州”之說。杭州是大運河南方的起點，它也是從唐朝開始走向繁榮的。中唐以后，杭州成為“東南名郡”，號稱“天堂”，所以南宋時把都城建在杭州，絕非偶然。

　　第三，在中國對外的經濟文化交流方面，起了積極的促進作用。例如，唐代朝鮮半島上的新羅，與唐朝政府間的來往，都是從登州入境，通過運河再到揚州。當時由于與新羅之間往來頻繁，所以運河沿線設立不少“新羅館”，負責接待。唐朝與日本的交流更多，從日本來的大量留學人員、學者、商人、僧人，都是走運河到達都城長安。高僧鑒真，也是從揚州乘船出港，東渡日本。據統計，日本船只往來中國，百分之八十都要經過運河。此外，來自西亞、阿拉伯的商人，也是乘船進入運河后，再分別往北、往南，進行貿易。