宋相趙普雖為朝廷竭心盡力，深受太祖恩寵。但因有斂財受賄、強買宅第、私運木材，以及違反朝廷宰輔大臣之間不準通婚的禁令，太祖聽說後，對趙普極為不滿。尤其是趙普屬下一小吏冒稱趙普經商，轉賣於京師，從中牟取暴利。有三司使趙砒奏明聖上，太祖大怒，欲驅趙普出朝廷。其後翰林學士盧多遜，又趁機揭發趙普的短處，以及中書省諸多不法行為。遂於開寶元年(公元973年)罷去趙普宰相之職，貶為河陽三城節度使。
開寶九年(公元976年)十月，太祖駕崩，其弟趙光義即位，即宋太宗。改元為太平興國。任盧多遜為相。
同年，趙普自河陽調回京師，任太子太保。曾多次遭到宰相盧多遜的讒言詆毀，不被朝廷重用的趙普工於心計，明察善斷，很會利用皇室內部權力之爭的矛盾，來為自己進身創造有利條件，以求東山再起。
皇室內部的矛盾和鬥爭，主要體現在君位的傳承問題上。太祖駕崩，太宗即位時，世間便有“燭影斧聲”之傳聞。太宗即位之後，關於自己百年之後君位再傳問題，頗費心思。雖有母後遺旨，已成定命，但他卻自己另有打算。於是便極力排斥、打擊，甚至殘害其弟廷美、其侄德昭(太祖子)。
知其內情者隻有趙普一人。早在建隆二年(公元961年)，太祖、太宗之母昭憲杜太後臨終前，召趙普入內宮承受遺命，當時隻有太後、太祖和趙普三人。太後問太祖：“你知道你所以能得天下的原因嗎?”太祖哭著不能回答。太後又問，太祖說：“皆因祖宗、太後積德之餘慶。”太後說：“不對，真正的原因是周世宗讓幼兒主天下。如果周氏當時有成習之君，天下怎麽能為你所有呢?你百歲之後，當傳位於你弟光義，光義傳位於弟廷美，廷美傳位於侄德昭(太祖子)。四海之廣，萬民之眾，能立長君，社稷之福!”太祖頓首泣說：“敢不如教。”太後又看看趙普說：“你同記我言，不可有違。”趙普在榻前照太後原話書錄下來，並在末尾署“臣普書”三字，藏於金匱之中，命謹密宮人保存。