宋太宗也是一位比較有作為的皇帝，他繼承皇位以後，決心將宋太祖統一全國的未竟事業繼續進行下去。
消滅南唐以後，南方割據勢力隻剩下了吳越，已不足為患。而且吳越對宋朝一直順從聽命，當宋朝出兵滅南唐時，宋太祖要求吳越國主錢俶出五萬兵夾攻南唐，錢俶果然照辦。南唐滅亡後，錢俶曾到開封朝拜，受到宋太祖盛情接待。當時有許多大臣勸太祖扣留錢俶，但宋太祖考慮到南唐雖然國滅，有的地方卻還有不少人在據城反抗，需要一段時間鞏固他在江南地區的統治，他擔心在這個時候扣留錢俶會引發吳越地區的反抗，於是就沒有批準。不僅如此，宋太祖還把群臣主張扣留錢俶的奏疏都交給錢俶，使錢俶既懼怕，又感激不盡。到了太平興國三年（978），這是宋太宗即位的第三年，這一年三月，吳越國王錢俶帶了大批財物到開封朝見太宗。事隔三年，形勢不同了，宋朝已牢固確立了在江南的統治，宋朝消滅吳越的時機也成熟了。所以，這次錢俶帶了大批寶物到開封朝貢，宋太宗在收下貢物後，就不再理會錢俶了，既不說讓他回吳越，也不明說是要扣留他。錢俶沒有辦法，主動要求除去吳越國王的封號和其他優待，隻求能夠返回吳越，太宗仍然不許。身處宋朝都城的錢俶意識到，如果在這個時候還不向宋朝歸順，恐怕性命也難以保全了，就隻好上表把自己統轄的十三州八十六縣都交給宋朝。宋太宗點頭準許，並對錢俶等人進行封賞，把錢俶的近親和吳越的官吏全都遷到汴京。南方的割據勢力至此被太宗完全削平了。
接著，宋太宗開始積極準備消滅北漢。
北漢以太原為中心，統轄並、汾、忻、代、嵐、憲、隆、蔚、沁、遼、麟、石十二州，經濟發展與南方各國相比比較貧弱。同時，北漢國主為了不被宋朝消滅，每年都要向遼國供奉大量的財物，以換取支持。