在我國近代，學習外國教育始於清末的“洋務運動”。第二次鴉片戰爭以後，外國侵略勢力進一步侵略中國，中國的民族資本主義也逐漸有所發展，清朝封建統治集團內部有一部分代表封建大地主的地方軍閥官僚向買辦轉化，要求辦“洋務”、興“西學”。雖然遭到封建貴族頑固派的反對，並於甲午戰爭後，“洋務運動”完全破產，但是在當時“內憂外患”的嚴重局勢的威脅下，頑固派也逐漸地接受了一些洋務派的意見，在封建統治教育方麵做了一些改革，辦起了一些新學校，派遣留學生到外國學習。這些留學生回國就帶回了一些西方的辦學思想。例如，容閎是我國近代最早的受過美國高等教育的知識分子之一，他回國後成為改良主義教育的代表人物。他主張中國要想獨立富強，就應當學習西方資本主義國家的教育。其他如梁啟超、嚴複等都曾介紹過外國的教育經驗。嚴複還翻譯了19世紀英國資產階級教育家斯賓塞的《勸學論》（即《教育論》）。在義和團運動前後，國人從日本翻譯和介紹了不少有關日本和歐美各國教育製度的文章，如1901年由湖北教育部門編輯的《師範講義》4冊，就詳細介紹了德國、法國、美國、英國、日本等國各級各類教育製度。1902年，白作霖還從日本翻譯了《各國學校製度》等。這些著作對清末廢科舉、建立新教育製度影響很大，但是，這個時期還不能說有什麽比較教育的研究。
真正開始比較教育的研究是在20世紀五四新文化運動以後。十月革命一聲炮響，驚醒了中國的知識分子，使他們覺悟到，學了幾十年的西學，辦了幾十年的新學校，國家依然如故，文化教育仍舊落後，中國隻有走俄國革命的道路，教育也需要走俄國人的路。李大釗同誌在1919年2月北京《晨報》上提出勞動教育問題，主張勞動者必須有受教育的機會，以後在《新青年》的“俄羅斯研究”的專欄裏，又陸續刊登了《蘇維埃的平民教育》《蘇維埃的教育》《俄羅斯的教育狀況》《革命的俄羅斯學校和學生》等文章，報道俄國教育的情況。另外，在共產黨領導下，工人中辦起了勞動補習學校、工人夜校等，大眾教育在勞苦大眾中發展起來。與此同時，以封建買辦階級為另一方，也在竭力推銷西方的物質文明和教育思想。1919年，美國實用主義教育家杜威來華宣傳他的實用主義教育學說。繼杜威之後，孟祿又於1921年9月來華講學，宣傳“教育救國”“科學救國”的思想。以後美國教育家麥柯爾、柏克斯特和克伯屈等都先後來華，對當時的中國教育產生過不小的影響。在這個時期，由於國際交往的頻繁，我國開始有些學者從事比較教育的研究和教學，並出版了一些書籍，如1929年出版了莊澤宣著的《各國教育比較論》；羅延光和韋懿曾把美國比較教育家的《比較教育學》（1933年版）譯成中文，作為大學教科書；羅延光還著有《最近歐美教育綜覽》。常守之是一位熱心研究外國教育和比較教育的學者，他從20世紀30年代開始，先後編著了《比較教育》《各國教育製度》和《德法英美四國教育概觀》等書；鍾魯齋教授著的《比較教育》（1934年）在大學叢書裏享有盛譽。上述比較教育著作在中華人民共和國成立前，對於比較教育學的教學和研究起了一定的作用。