春秋末年，位于太湖流域的吴王夫差为了与中原的晋国争霸，于前486年修筑邗城（今扬州附近），作为北上据点，并在城下开凿运河到末口（今江苏淮安市淮安区城北北辰坊），沟通长江与淮河，以运输军队和辎重。此运河于前484年完工，后世称为“邗沟”，是大运河中最早有确切纪年的一段河道。在开凿过程中，吴人尽量利用长江、淮河间的天然河道和湖泊，巧妙地以人工渠道连接两岸，故只凿渠长约150公里。