黃河是中國的母親河，華夏文明起源於黃河流域。福兮禍所伏，上古時代人們就開始苦於黃河水患，因此，大禹治水的傳說一直伴隨著我們古老的文明成長。在傳說中，大禹治水一改之前“堵”的策略，而是改為疏導河道，從而解決困擾華夏族的大問題，並且以此功勞成為天下共主，開創了夏朝。
自清朝建立開始，黃河問題也一直令清政府頭疼不已，黃河大水給兩岸的百姓造成了巨大的損失，增加了社會上的不穩定因素，因此，黃河問題一直以來都是國家的隱患。康熙親政後，更是十分重視黃河的治理，把“河務”“漕運”“三藩”三件事寫在宮殿的柱子上，時刻提醒自己，他認為這是自己最重要的三項工作。
到了康熙年間，已經是“到處潰決”，特別是在徐州以下，包括徐州、淮安、揚州三地，本來是漕運必經之地，但因為漕運和黃河交叉，同時淮河也在這一區域（洪澤湖）和黃河交匯入海。大量淤泥匯集於此，堤岸崩塌，黃河阻塞，造成當地河道嚴重受損、河水倒灌。揚州、淮安本是極其富庶之地，但發展勢頭也一年不如一年。其中，以清河縣最為嚴重。
康熙本是個有為之君，隻是之前受鼇拜等人壓製，等他親政後，便認為河務是一等一的大事，隻有處理好河務，天下百姓才能安定，於是他下定決心，治理河務。康熙曾說：“朕觀黃河，自宿遷以至清河（縣），皆為緊要。雖有遙堤一層恐未足捍弊水勢，因否於遙堤之外在築遙堤。”（出自《清聖祖實錄》卷39）
當時康熙親政不久，對於河務並不十分熟悉，但他根據河圖能夠發現如此關鍵問題，其實已經非常不易。康熙十五年，黃河汛期來臨，康熙正擔心黃河泛濫，結果很快，江南奏報：淮揚等處堤岸潰決，田地淹沒。康熙急令戶部侍郎伊桑阿前往視察，最後查出河道總督王光裕玩忽職守，康熙大怒不已，立即將王光裕革職問罪，然後派遣安徽巡撫靳輔來主管河道。