大運河開挖於春秋時期，至隋朝時已基本完工。但大運河對於中國政治、經濟及社會生活的強大塑造力，則要到北宋時才完整地呈現出來。
大運河奠定了開封的國都地位，也撐起了北宋的繁華。
大運河是北宋立國的生命線
趙宋立國，繼承後周的政治遺產，以汴梁為首都。但宋太祖趙匡胤打心底裏不希望定都於汴梁，因為開封乃是“四戰之地”，並無天險可據，易攻難守，從軍事上考慮，確實不是建都的首選。為了守衛國都，必須在京師駐以重兵，成本非常高。開寶九年（976年），距宋朝開國不過十六年，趙匡胤到西京洛陽祭祖，留洛期間，便與近臣發生了一次是否要遷都的辯論。
原來趙匡胤出生於洛陽夾馬營，有意遷都洛陽，祭祀完畢，便在洛陽行宮住了下來，不欲回東京汴梁。隨行的群臣不知如何是好。
鐵騎左右廂都指揮使李懷忠進言：“東京有汴渠之漕，歲致江淮米數百萬斛，都下兵數十萬人鹹仰給焉。陛下居此，將安取之？且府庫重兵，皆在大梁，根本安固已久，若遽遷都，臣實未見其便。”李懷忠的意思是，東京縱有千般不是，但畢竟得運河之便，每年可以從江淮運入漕糧數百萬石，京師數十萬駐軍，全靠它吃飯。陛下如果搬居洛陽，能從哪裏弄到這麽多的糧食？因此，遷都之事，極不可行。
但趙匡胤不聽，看來很難改變皇上的主意了。
此時，太祖之弟、晉王趙光義從容地說道：“遷都未便。”
趙匡胤說：“遷都洛陽也非長遠之計，最好是遷至長安。”
趙光義“叩頭切諫”，決心要打消太祖遷都的念頭。
趙匡胤又說：“我之所以想西遷，並無他意，隻是要據山河之勝，守衛國都。這樣便可以裁撤冗兵，循周漢故事，以安天下。”