在中國畫的發展曆史中，山水畫的產生比人物畫要晚，山水畫最初隻是作為人物畫的背景處於附屬地位，直到魏晉南北朝時期才逐漸形成一個獨立的畫科。由於年代久遠，除了能從部分有關山水畫的文獻中了解早期山水畫的特點外，我們很難見到那時的原作了。唐代張彥遠在《曆代名畫記》卷一《論山水樹石》中這樣記載魏晉時期的山水畫：“魏晉以降，名跡在人間者，皆見之矣。其畫山水，則群峰之勢，若鈿飾犀櫛，或水不容泛，或人大於山，率皆附以樹石，映帶其地，列植之狀，則若伸臂布指。”[1]這種情況在敦煌壁畫保留下來的北魏和東、西魏時期的作品中有所體現，如257窟中北魏時期鹿王本生故事以及249窟中西魏時期的一幅壁畫。[2]陳傳席在《中國山水畫史》中這樣總結早期山水畫：（一）群峰排列，猶如犀櫛鋸齒；（二）比例不稱，人獸禽皆大於山，水不容泛；（三）樹皆簡單，多如伸臂布指，且樹的比例大於山；（四）山中點綴很多複雜的禽獸之屬；（五）不但有向上的高度、有向左右延伸表示長度，也有表示縱深方麵的畫境，但空間感的效果不太好。[3]
經過魏晉南北朝的萌芽，山水畫到隋唐時期已經逐漸走向成熟，至五代兩宋則達到了藝術的高峰，元明清各代均有發展與建樹，名家輩出，形成蔚為壯觀的中國傳統藝術形式，至今不衰。明代王世貞曾指出：“山水畫，始於吳，成於二李。荊關董巨一變也，李劉馬夏一變也，大癡黃鶴又一變也。”這句話將山水畫在發展過程中起了關鍵性變革作用的畫家簡單明了地概括了出來。
唐代的吳道子是位多麵手，不僅擅長人物、佛道、鬼神，而且禽獸、草木、亭台、山水皆冠於世。從唐代張彥遠的《曆代名畫記》看，吳道子在畫寺觀壁畫時，常有山水背景，“縱以怪石崩灘，若可捫酌”[4]，他擺脫了魏晉南北朝時“水不容泛，人大於山”的稚拙狀態，很早就“始創山水之體，自為一家”。雖然他晚於李思訓，卻沒有繼承關係，因為他的繪畫風格帶有人物畫筆法，且運筆情緒化，更具有表現力和真實性，這對於李思訓細密的風格來說是一大變革。