武術萌芽於原始社會時期，源起於我國遠古祖先的生產勞動。人們在狩獵的生產活動中，創製了石刀、石錘、木棍等武器，逐漸學會了躲閃、跳遠、滾翻以及運用石器、木棒劈、砍、刺等技能。氏族公社時代，經常發生部落戰爭，因此在戰場上搏鬥的經驗也不斷得到總結，比較成功的一擊、一刺、一拳、一腿，被模仿、傳授、習練著，促進了武術的萌芽。
武術成形於奴隸社會時期。夏朝建立，經過連綿不斷的戰火，武術為了適應實戰需要進一步向實用化、規範化發展，夏朝時期的武術活動主要在以下兩個方麵發展：一是軍隊的武術活動，二是以武術為主的學校教育。
商朝出現了武術訓練的重要手段——田獵，利用“武舞”來訓練士兵，鼓舞士氣。周朝設的“序”等學校中也把射禦、習舞列為教育內容之一。相傳在周時期出現了一部中國武術史上重要的著作《周易》，亦稱《易經》，“一陰一陽謂之道”，這本書蘊含很豐富的哲學思想，對我國養生學的發展影響極為深遠，其“易有太極，是生兩儀，兩儀生四象，四象生八卦”產生了太極學說，從此奠基中國武術體係。進入春秋戰國以後，諸侯爭霸，都很重視技術在戰場中的運用。齊桓公舉行春秋兩季的“角試”來選拔天下英雄。在這時期，劍的製造及劍道都得到了空前的發展。
武術發展於封建社會時期。秦漢以來，盛行角力、擊劍。隨著“宴樂興舞”的習俗，手持器械的舞練時常在樂飲酒酣時出現，如《史記·項羽事紀》記載的“鴻門宴”中“項莊舞劍，意在沛公”，便是這一形式的反映。此外，還有“刀舞”“力舞”等，雖具娛樂性，但從技術上更近於今天套路形式的運動。
唐朝以來開始實行武舉製，對武術的發展起了促進作用，如對有一技之長的士兵授予榮譽稱號。裴民將軍的劍術獨冠一時，裴民的劍術、李白詩歌、張旭草書並稱唐代三絕。