淝水之戰後，晉朝趁機收複不少領土，但內部動亂也相繼出現。寒族出身的北府軍將領劉裕在鎮壓叛亂和打擊割據勢力中崛起。
隨後，劉裕率軍消滅南燕、後秦等國，降伏仇池，打敗北魏，收複淮北、山東、河南、關中等大片土地，光複了洛陽和長安。公元420年，他建宋代晉，定都建康，史稱南朝宋。
劉裕深知世族門閥控製朝政會挾主專橫，威脅皇權，便加強中央集權，抑製豪強兼並土地，整頓吏治政風，重用寒族中有才幹的人，還輕徭薄賦，廢除苛法，全力去改善政治和社會狀況，終結世族門閥專政政治格局。
公元422年，劉裕策劃北伐北魏，尚未出兵，便病死，他長子劉義符繼位，司空徐羨之、尚書令傅亮、中書令謝晦等人主持朝政。劉義符荒**無度，任性妄為。北魏趁機發起戰爭，奪走邊境一些州縣。徐羨之、傅亮、謝晦與托孤大臣檀道濟商議後，以皇太後名義，廢劉義符，改立劉義隆為帝。
劉義隆在檀道濟、到彥之等人支持下，誅殺徐羨之、傅亮、謝晦，牢牢抓住軍政大權。他采取一係列措施，讓百姓休養生息，促使社會經濟的發展和文化的繁榮。
西晉滅亡後，南北分裂，中原地區陷入長期混戰中。前秦短暫統一北方，迅速崩潰。到南朝宋建立時，北魏、北涼、西涼、西秦、夏、北燕在逐鹿中原，陰山以北是柔然汗國。夏和柔然是北魏勁敵。南朝宋隻有半壁江山，但此時已繁榮複興，可以全力北伐。
公元423年年底，拓跋嗣死，拓跋燾繼位。第二年，北魏與夏爆發大規模戰爭。第三年，北魏與柔然爆發大規模戰爭。這是北伐北魏的機會，劉義隆卻在公元429年寫信要北魏歸還河南各地。當時，拓跋燾已經打敗柔然和夏，信心滿滿，對南朝宋絲毫不示弱。