中國的史官製度，起源很早。相對來說，修史機構的出現，要晚一些；而專門的修史機構的出現就要更晚一些。據唐代史學家劉知幾的考察，曹魏以前，曆代並無穩定的修史機構。他在講到東漢的蘭台和東觀時這樣寫道：
漢氏中興，明帝以班固為蘭台令史，詔撰《光武本紀》及諸列傳、載記。又楊子山為郡上計吏，獻所作《哀牢傳》，為帝所異，征詣蘭台。斯則蘭台之職，蓋當時著述之所也。自章、和已後，圖籍盛於東觀。凡撰漢記，相繼在乎其中，而都為著作，竟無他稱。[78]
蘭台和東觀，都是皇家藏書處所，並非是明確的修史處所；隻是為就近利用藏書的方便，所以蘭台和東觀才先後成了東漢時期的“著述之所”。
魏、晉時期，開始明確了職掌修史的機構。《晉書·職官誌》簡要地記載了這一情況：
著作郎，周左史之任也。漢東京圖籍在東觀，故使名儒著作東觀，有其名，尚未有官。魏明帝太和中，詔置著作郎，於此始有其官，隸中書省。及晉受命，武帝以繆徵為中書著作郎。元康二年，詔曰：“著作舊屬中書，而秘書既典文籍，今改中書著作為秘書著作。”於是改隸秘書省。……著作郎一人，謂之大著作郎，專掌史任，又置佐著作郎八人。著作郎始到職，必撰名臣傳一人。[79]
從這裏可以看出，在魏明帝時，中書省是職掌修史的機構；至晉惠帝元康二年（292）改由秘書省職掌修史事務。這就是說，3世紀初，中國有了負責修史的機構，而292年，確是一個值得紀念的年代。盡管中書省和秘書省都不是專門的修史機構[80]，但修史工作在封建王朝的組織係統中畢竟有了比較穩定的歸屬。這是中國史學上的一件大事。
東晉、南朝以及北魏、北齊，均沿襲這一製度。於沿襲中也有變化和發展。南朝改佐著作郎為著作佐郎，這是一個變化。著作郎除有專職者外，也可有兼職者，即“其有才堪撰述，學綜文史，雖居他官，或兼領著作”[81]。這又是一個變化。南朝齊、梁、陳又設置修史學士（亦作撰史學士），這是第三個變化。北齊有時把屬於秘書省管轄的著作省（或作著作局）稱為“史閣”或“史館”，這是“史閣”、“史館”名稱最早的由來。北齊著名文人邢子才作詩贈史家魏收，有“冬夜直史館”句可證。[82]這是第四個變化。上述情況，至隋及唐初沒有大的變化。杜佑對於唐初以前修史機構及其演變做了這樣的概括：“自後漢以後，至於有隋，中間唯魏明太和中，史職隸中書，其餘悉多隸秘書。大唐武德初，因隋舊製，史官屬秘書省著作局。”[83]