在朱元璋的親戚中，有兩個人最能打仗，而且不是一般的能打：一個是他的侄子朱文正，另外一個就是他的外甥李文忠。朱文正當初守江西南昌，迫使陳友諒在鄱陽湖和朱元璋決戰；而李文忠在軍事上的貢獻更大於朱文正。
李文忠很早就跟隨朱元璋了，朱元璋在滁州嶄露頭角後不久，李文忠就投靠於他。之後，在各大戰役中，都有李文忠的身影，他憑借出色的軍事才能和對朱元璋毫無私心的忠誠，以火箭般的速度飛升。朱元璋建立明帝國後，北伐元王朝的戰役開始，李文忠又在北方戰場屢立奇功，朱元璋甚至說，李文忠之功不在北伐軍總司令徐達之下。
李文忠不但在軍事方麵才華橫溢，在政治方麵也是獨具慧根：朱元璋在和中書省的幾個宰相鬥智鬥勇時，李文忠就多次提出把他弄進中書省，讓他去擺平那些個宰相。朱元璋起初覺得中書省已經亂成一鍋粥了，再讓李文忠進去，中書省非雞飛狗跳不可。直到胡惟庸案爆發的兩年前，他才終於同意李文忠和李善長同時進入中書省擔任要職，其職能相當於宰相。
可李文忠向來自詡的政治才能還沒來得及展露，胡惟庸就被朱元璋幹掉了。當時擔任帝國軍事部門大都督府一把手的李文忠認為屬於他的政治時代終於來臨了，就迫不及待地向朱元璋請求由來他兼任中書省左丞相。
朱元璋讓他不要胡思亂想，因為他覺得中書省是個不祥之地，決心不要了。廢掉中書省後，李文忠還沒有反應過來，緊接著他的大都督府也被廢除。朱元璋將大都督府分為五部分，稱為“五軍都督府”。每一府都有一名長官，直接對皇帝負責。
李文忠的權力瞬間被削弱了，這讓他極不舒服。不過舅甥關係還算融洽，李文忠依然受到朱元璋信重。當時，全國各地已開始出現官逼民反的叛亂，李文忠還親自帶隊跑到甘肅洮州去削平了少數民族的造反。