朱元璋僅僅是粗通文墨，他的智慧全部來自多年的社會實踐。他當然明白，想要統治如此大的帝國，他是不可能親力親為的。他需要一個幫手——曆朝曆代皇帝的幫手，就是以宰相為首的政府，朱元璋自然也不例外。
大明帝國的第一任宰相，是朱元璋的親密戰友——李善長。李善長自投奔朱元璋以來，始終擔任著後勤部長和軍師的雙重職務。朱元璋能得天下，軟件是劉伯溫和朱升的九字箴言，硬件則是李善長的組織和動員能力，讓朱元璋可以放心大膽地四處征戰，而不用擔心後院起火。
所以，李善長始終是朱元璋多年來的文臣之首。但讓朱元璋大惑不解的是：帝國建立後，以前一向順眼的李善長，忽然就變得不那麽可愛了。
文臣之首，李善長當之無愧；謀臣之首和監察官之首，則是劉伯溫。李善長是安徽人，劉伯溫是浙江人，兩人是當時大明帝國兩個派係的代表人物。安徽幫最雄壯，文有李善長，武有徐達一幹人等；浙江幫實力不如安徽幫，可浙江幫的頭目劉伯溫，卻擁有著監察大權。
這是朱元璋厲害之處：兩個派係互相製衡、互相監督，他本人才能安枕無憂。不過，一定要掌握好平衡，否則極容易形成黨爭。1369年，朱元璋發現，李善長正在破壞這一平衡。
李善長做宰相後，突然變得殘忍刻薄，而且試圖在政府中樹立自己的權威，而不是朱元璋的。他變得難以接受不同的意見，參議李飲冰稍對他專權的行為有所不滿，他就下令把李飲冰的**割掉，導致李飲冰在刑房內流血至死。朱元璋找他談話，李善長卻鼻孔朝天，好像他是皇帝，而朱元璋是宰相一樣。
朱元璋決心敲打一下李善長。一次朝會後，他留下了李善長和劉伯溫，閑聊了幾句後，就單刀直入地問李善長：“中書省的工作很忙吧？”