對於民族問題，唐太宗始終特別重視。他知道，隻有民族團結，國家才能安定發展，所以他采取了很多促進民族團結的政策。其中，尤以內遷突厥和設置羈縻府州這兩項措施的效果最為顯著。
貞觀四年（630年），唐太宗終於解決了東突厥一直以來蠢蠢欲動的問題，馬上召集群臣開始討論怎樣安置突厥。在討論的過程中，溫彥博與魏徵進行了激烈的爭辯。溫彥博主張學習漢朝，把突厥人安置在黃河以南的偏僻地區。魏徵則以晉武帝司馬炎的永嘉之亂為鑒，認為應該小心防範突厥人，切勿將其流放到黃河以南的偏僻之地，否則很容易生出禍端。
其實，溫彥博和魏徵所爭論的問題，恰恰是唐太宗的心腹之患。後來，唐太宗采納了溫彥博的建議，把突厥人內遷到中原，還將一萬戶突厥人引入長安，定居下來。對於突厥人，唐太宗並不另眼看待。他從突厥人中選取了一些有才華的人在朝廷中擔任官員，而且比例還很高。在朝廷裏，有一百多位武官都是突厥人，占到朝廷所有武官的一半。很多突厥人得到唐太宗的信任，對唐太宗忠心耿耿。
唐太宗作為封建時期的帝王，能夠以如此開明的政策對待戰敗的民族，恩威並施地安撫了突厥部眾，極大地穩定了唐王朝北部，也極大地促進了社會發展。簡而言之，唐太宗對待北方少數民族采取的是羈縻政策，這個政策的施行大獲成功，使很多少數民族的人都真心誠意地歸順大唐。突利可汗的弟弟為了避免被大唐問罪，四處逃亡，後來聽說唐太宗對待突厥人寬大為懷，因而主動歸降了唐朝。看到羈縻政策在對待突厥問題上大獲成功，唐太宗還把羈縻政策推廣到其他少數民族問題的處理上。
唐太宗之所以能帶領大唐建立統一的多民族國家，與他致力於設立少數民族羈縻州府是密切相關的。在收服了各個少數民族後，唐太宗取消了各個少數民族可汗的稱號，直接為這些少數民族設立長官，實現了他對少數民族的直接管理和密切關注。