《中華人民共和國義務教育法》（1986年），以法律的形式，明確規定了“義務教育事業，在國務院領導之下，實行地方負責、分級管理”。《中國教育改革和發展綱要》（1993年），重申“深化中等以下教育體製改革，繼續完善分級辦學、分級管理的體製”。
“地方負責，分級管理”的義務教育行政管理體製，是與各級地方財政包幹製度相適應的，擴大了地方義務教育的管理權，使得各級地方可以根據自身經濟發展和社會需求發展義務教育，極大地調動了地方辦教育的積極性，為“普九”的完成做出了巨大的貢獻。但是，在“地方負責，分級管理”體製貫徹執行的過程中，也出現了不容忽視的嚴重問題，特別是90年代中期以後，義務教育財政責任過度下放，大多數農村地區實際上是由鄉政府和農民來主要承擔義務教育的財政責任的。義務教育的投入演變成了“以鄉為主”。鄉政府財力有限，導致全國出現大麵積拖欠教師工資等問題，嚴重影響了義務教育的發展。
中國作為一個農業人口大國，農村義務教育的實施情況，直接影響到整個國家義務教育的質量。這種“以鄉為主”、低重心的義務教育管理體製，引發了一係列問題。例如，教育經費短缺，教育投入長期不足，很多農村地區的義務教育基本辦學條件得不到保障。據教育部不完全統計，到2000年4月為止，全國普通中小學共有危房741.4萬平方米，主要集中在中、西部經濟欠發達的農村地區。隨著教育經費短缺而來的是教師工資拖欠嚴重，優秀師資大量流失等問題。據袁振國《中國教育政策評論2001》統計，截至2000年4月，全國22個省、自治區和直轄市拖欠教師工資總額達76.68億元。1998年至2000年4月，全國2300個縣中，有1/3的縣存在教師工資拖欠問題。地區之間、城鄉之間的差異問題也比較突出。由於鄉鎮財政力量有限，很多地方很難執行國家規定的工資標準，教師待遇低下，加上工資拖欠等問題，直接導致了農村骨幹教師大量流失，從貧困地區和西部地區紛紛流向東部和沿海地區，形成了新時期的“孔雀東南飛”。