李世民大軍慘敗的消息傳到長安，整個長安震動，李淵大怒。這是奇恥大辱，李淵自從太原起兵以來，從來沒有遭到這樣的慘敗。這件事必須追究責任。
李淵本來想把劉文靜和殷開山處死，以解心頭之恨，但是經不住李世民和眾臣的苦苦哀求，於是法外開恩，把劉文靜和殷開山廢為庶人，在軍中戴罪立功。
李靖進言有功，賞賜黃金百斤，綢緞五百匹。李靖堅辭不受。
李世民休息了幾個月，身體剛一恢複，他就又掛帥出征了，因為不消滅薛仁果，他寢食不安，那一口惡氣就整天堵在他胸口裏，實在是忍不下來。
武德元年（618年）八月，唐軍在秦王李世民帶領下再次出征，進攻薛仁杲。
這一次，李世民非常慎重，他嚴格按照李靖的建議，先要做好防守，把自己立於不敗之地，讓敵人無機可乘。然後再想辦法，找到敵人的弱點。
十一月，唐軍駐守高墌，薛仁杲派大將宗羅睺多次挑戰，李世民堅守不出。
一連幾個月，大軍堅守不出，眾將領都急了，又紛紛請戰。
李世民說:“諸位，我軍剛敗，士氣低落，敵軍得勝，驕橫一時，我們應該深溝壁壘，堅守不出，等他們的糧草耗盡，士兵氣餒，那個時候戰機就到來了，我們可以一戰而擒之。”
於是號令全軍:“有再敢請戰的，斬首!”
對峙了六十多天後，薛仁杲的大軍糧食果然吃完了，再加上薛仁杲為人殘酷，動不動就用酷刑懲罰下屬，弄得他手下的將領紛紛想叛逃。粱胡郎等人就率領各自的隊伍前來投降李世民。
李世民向投降的將領仔細的問明情況，和李靖、房玄齡、杜如晦等人商量後，於是就決定采取進攻。
為了進一步消耗敵軍的士氣，李靖建議，先派幾千人作為先頭部隊，吸引薛仁杲大軍進攻。像貓捉老鼠一樣，先陪他們玩一玩，等他們折騰累了，我們再突然發動進攻，這樣才能出其不意。