李大師的著述之誌，因未能實現而引為“沒齒之恨”。這在李延壽的思想中打下了深深的烙印。從一定的意義上說，他後來的史學事業，就是從這裏萌發的。如他所說：“既家有舊本，思欲追終先誌。”[96]他決心接過他父親沒有做完的事情繼續做下去。
李延壽撰《南史》和《北史》，經曆了漫長而艱苦的過程。這個過程大致有四個階段。
第一個階段，從唐太宗貞觀三年（629年）至貞觀五年（631年）。這期間，李延壽參與修撰《隋書》；與此同時，梁、陳、齊、周諸史的修撰都在進行，皇家史館集中了有關這些方麵的許多曆史資料。李延壽利用這個機會，在修撰《隋書》的同時，特別留心於那些他未曾見到過的“齊、梁、陳、周、隋五代舊事”的資料，並“晝夜抄錄之”。
第二個階段，大約從貞觀八年（634年）至貞觀十五年（641年）。李延壽在蜀中做官期間，在公事之餘，“以所得者編次之”。這時雖然梁、陳、齊、周、隋五代史已在貞觀十年（636年）修撰完成，但李延壽遠在蜀中，不可能讀到皇家圖書館的這些剛剛撰成的藏書。
第三個階段，從貞觀十五年（641年）至貞觀十七年（643年）。李延壽調回京城任太子屬官，由於令狐德棻的推薦，他再次進入史館。這一次，他把撰寫南北朝史工作的重點放在勘究宋、齊和北魏三朝曆史中他所不甚了解的一些史料上麵。
以上三個階段共十四五年時間，李延壽一麵參加史館修撰工作，一麵搜集、勘究資料，為撰寫南北朝史作準備。
第四個階段，從唐太宗貞觀十七年（643年）至唐高宗顯慶四年（659年），前後用去十六年時間。這時，由於褚遂良奉詔修撰《五代史誌》，李延壽也參與了這項工作。他利用這個機會“遍得披尋”，進一步廣泛閱讀了史館有關的藏書。他的視野更加開闊了。史館撰述之餘，他就抄寫南朝的宋、齊、梁、陳和北朝的魏、齊、周、隋八代史，即所謂“私為抄錄，一十六年，凡所獵略，千有餘卷”[97]。