洋務運動開始，是在“自強”的口號下籌建近代軍事工業和編練新式海軍。鹹豐十一年（1861年）底，曾國藩在安慶設立“內軍械所”“製造洋槍洋炮，廣儲平實”，是洋務派興辦軍事工業的起點。同治三年（1864年）安慶內軍械所隨軍遷到南京。安慶內軍械所雖然是以手工業製造為主，但卻是當時清軍的一大火器供應中心。
在同一時期內，各地還設立許多軍火工廠，“惟一省仿造，究不能敷各省之用”，到光緒十年（1884年）為止，清政府先後設廠局20所，除江南製造局停辦外，其餘19所分布在全國12個省區。從19世紀60到90年代的30多年中，洋務派辦軍事工業，共用銀4500萬兩，均由國庫支出；所有局廠一律歸官辦；生產的槍炮彈藥和輪船均由清政府調撥發給湘、淮軍和沿海各省使用；每個廠局均有成群的官吏，機構龐雜，洋務派辦洋務首先聘請洋員。
光緒元年（1875年），由兩江總督沈葆楨、直隸總督李鴻章等人倡議，經總理衙門核準，撥銀400萬兩，作為籌辦海軍軍費，準備在十年內建成南、北、粵洋三支海軍，後由於財力有限，決定“先就北洋創設水師一軍”，沈葆楨死後，海軍大權集於李鴻章一身，他在天津設水師營務處，辦理海軍事務；又於光緒六年（1880年）在天津設立水師學堂，訓練北洋係海軍軍官。同時又用銀300萬兩，從德國購買“定遠”“鎮遠”兩隻鐵甲艦。光緒七年（1881年），李鴻章派丁汝昌統領北洋海軍。光緒十年（1884年），三洋海軍初具規模，南洋海軍約有軍艦19艘、北洋海軍約有軍艦15艘、福建海軍約有軍艦11艘。光緒十年六月，中法戰爭爆發，八月，法國遠東艦隊擊毀了福建海軍全部艦船，並摧毀福州船政局，南洋海軍也受到損失，隻有李鴻章的北洋海軍保存了實力。李鴻章又向英國訂購了“致遠”“靖遠”和從德國購進“經遠”“來遠”等艦，北洋海軍實力加強。在這前後，李鴻章又修建了大沽、旅順船塢，作為修理鐵甲艦之用。光緒十四年（1888年），北洋海軍正式成軍，丁汝昌任海軍提督，擁有軍艦22艘。軍事訓練由英、德國人操縱。光緒二十年（1894年），北洋海軍在中日甲午戰爭中全軍覆滅，結束了北洋海軍的曆史。