曆史文獻在積累過程中便不斷被人們所利用。人們整理曆史文獻，一方麵是為了保存它，另一方麵是為了利用它，而歸根到底還是為了利用。
文獻，是人們借以認識和說明曆史的根據，這一點，孔子已經指出來了[27]。曆史文獻的積累和整理，是曆史撰述的前提。劉知幾這樣說：
觀夫丘明受經立傳，廣包諸國，蓋當時有《周誌》、《晉乘》、《鄭書》、《楚杌》等篇，遂乃聚而編之，混成一錄。向使專憑魯策，獨詢孔氏，何以能殫見洽聞，若斯之博也？馬遷《史記》，采《世本》、《國語》、《戰國策》、《楚漢春秋》。至若班固《漢書》，則全同太史。自太初已後，又雜引劉氏《新序》、《說苑》、《七略》之辭。此並當代雅言，事無邪僻，故能取信一時，擅名千載。[28]
劉知幾又說：
芻蕘之言，明王必擇；葑菲之體，詩人不棄。故學者有博聞舊事，多識其物，若不窺別錄，不討異書，專治周、孔之章句，直守遷、固之紀傳，亦何能自致於此乎？且夫子有雲：“多聞，擇其善者而從之。”“知之次也。”苟如是，則書有非聖，言多不經，學者博聞，蓋在擇之而已。[29]
劉知幾的這兩段話，意在說明史家必須廣泛地涉獵曆史文獻，才有可能寫出信史、佳篇。同時，他也指出了曆史文獻有“雅言”和“別錄”的區別，以及史家對它們所應當采取的態度。史家隻有博采“雅言”，才能使史書“取信一時，擅名千載”；善擇“別錄”，才能“博聞”、“多識”，把史書寫得豐贍而多彩。
博洽和嚴謹，是中國史家在利用曆史文獻中所表現出來的優良傳統。這在一些有重大成就的史學家身上，尤為突出。舉例說來，如司馬遷著《史記》，撰通史，以黃帝為曆史的開端，他是經過認真研究、反複思考的。司馬遷在《五帝本紀》後論中，陳述了他思考的軌跡。首先，他認為“百家言黃帝，其文不雅馴”，有許多不可信之處，反映出了他的辨偽的意識。其次，他認為“書缺有間矣，其軼乃時時見於他說”，反映出他對曆史文獻之流傳散失、輯佚的認識。再次，他考察了《春秋》、《國語》所記同《五帝德》、《帝係姓》的關係，從而證明“其所表見皆不虛”，確定了他撰《五帝本紀》的決心。最後，還可以看出司馬遷對於曆史文獻的博覽和善擇的方法；而他通過社會調查所得來檢驗曆史文獻所記的真實性的方法，使後人不能不歎服他的高見卓行。