20世紀90年代，我國基礎教育管理體製改革的主要任務仍然是繼續完善“地方負責、分級管理”的體製。1993年《中國教育改革和發展綱要》明確提出“中等及中等以下教育，由地方政府在中央大政方針的指導下，實行統籌和管理”，並且規定中央和地方的權限劃分是“國家頒發基本學製、課程設置和課程標準、學校人員編製標準、教師資格和教職工基本工資標準等規定，省、自治區、直轄市政府有權確定本地區的學製、年度招生規模，確定教學計劃，選用教材和審定省編教材，確定教師職務限額和工資水平等。省以下各級政府的權限，由省、自治區、直轄市政府確定”。1994年7月，國務院又頒布了《關於〈中國教育改革和發展綱要〉的實施意見》，進一步明確了中央和省、地（市）、縣、鄉各級人民政府在基礎教育管理上的權責劃分。根據這一劃分，國家負責製定有關基礎教育的法規、方針、政策及總體發展規劃、基本學製、課程設置和課程標準；設立用於貧困地區、民族地區、師範教育的專項補助基金；對省級教育工作進行監督、指導；等等。省級政府負責本地區基礎教育的實施工作，包括製定本地區基礎教育發展規劃，確定教學計劃、選用教材和審定省編教材；組織對本地區基礎教育的評估、驗收；建立用於補助貧困地區、少數民族地區的專項基金，對縣級財政教育事業費有困難的地區給予補助；等等。地（市）級政府根據中央和省級政府製定的法規、方針、政策，對本地區實施義務教育進行統籌和指導。縣級政府在組織義務教育的實施方麵負有主要責任，包括統籌管理教育經費，調配和管理中小學校長、教師，指導中小學教育教學工作，等等。鄉級政府負責落實義務教育的具體工作，包括保障適齡兒童、少年按時入學。1999年，《中共中央國務院關於深化教育改革全麵推進素質教育的決定》對基礎教育管理體製做出了進一步的改革，要求加大省級人民政府發展和管理本地區教育的權力及統籌力度，促進教育與當地經濟社會發展緊密結合，以及加大縣級人民政府對教育經費、教師管理和校長任免等方麵的統籌權。2001年，為了進一步提高基礎教育發展水平，克服地方基礎教育發展不平衡問題，國務院頒布了《關於基礎教育改革與發展的決定》，進一步完善了基礎教育管理體製。該決定指出，“我國的基礎教育實行在國務院領導下，由地方政府負責、分級管理、以縣為主的體製”。文件對各級政府發展基礎教育的權限和責任進行了重新劃分：國家確定義務教育的教學製度、課程設置、課程標準，審定教科書。中央和省級人民政府要通過轉移支付，加大對貧困地區和少數民族地區義務教育的扶持力度。省級和地（市）級人民政府要加強教育統籌規劃，搞好組織協調，在安排對下級轉移支付資金時要保證農村義務教育發展的需要。縣級人民政府對本地農村義務教育負有主要責任，要抓好中小學的規劃、布局調整、建設和管理，統一發放教職工工資，負責中小學校長、教師的管理，指導學校教育教學工作。鄉（鎮）人民政府要承擔相應的農村義務教育的辦學責任，根據國家規定籌措教育經費，改善辦學條件，提高教師待遇。2003年，教育部又頒布了《2003—2007年教育振興行動計劃》，要求進一步落實“在國務院領導下，由地方政府負責、分級管理、以縣為主”的農村義務教育管理體製。該計劃在重申各級政府應當承擔對義務教育的保障責任的同時，還要求中央、省和地（市）級政府通過增加轉移支付，增強財政困難縣義務教育經費的保障能力。2006年6月，為了促進義務教育的均衡發展，修訂後的《義務教育法》對原有的以縣為主的義務教育管理體製又進行了重新調整，其第七條明確規定“義務教育實行國務院領導，省、自治區、直轄市人民政府統籌規劃實施，縣級人民政府為主管理的體製”。這一規定突破了過去“以縣為主”的體製，使得原來的義務教育“以縣為主”的管理體製轉變為新的“管理以縣為主”的體製，強調了省級政府的統籌落實責任，對提高基礎教育的整體發展水平，促進義務教育的均衡發展和實現教育公平具有重要意義。