蔣介石此次“北伐”的軍事部署是：以蔣介石為統帥的第一集團軍作為主力，沿津浦線北進，循泰安、濟南、滄州而直逼天津，以馮玉祥為總司令的第二集團軍則任京漢路以東、津浦路以西地區的攻擊任務，自新鄉向彰德、大名、順德一帶北上，右與第一集團軍、左與第四集團軍聯係，會攻京、津；以李宗仁為總司令的第四集團軍則循京漢路，經鄭州、新鄉，向正定、望都一帶集中，直搗保定和北京；以閻錫山為總司令的第三集團軍則自正太路，出娘子關，截斷京漢線，北上與第四集團軍會師北京。
張作霖麵對四個集團軍齊頭並進的“北伐”態勢，遂決定東線以張宗昌的直魯軍與孫傳芳所部據守津浦線，阻截第一集團軍北進。同時，他利用馮玉祥和閻錫山在曆史上的矛盾，決定奉軍主力後撤，以縮短戰線，並以保定為軸心，向西線集中，擬乘李宗仁的第四集團軍尚未到達正定時，一舉將躍出娘子關的閻錫山的第三集團軍包圍殲滅，然後回師截擊其他各路“北伐”大軍，以達其各個擊破的戰略目的。
與張作霖部署圍殲閻錫山的第三集團軍的同時，蔣介石與馮玉祥下達了攻擊直魯軍的作戰命令。戰端一開，有“狗肉將軍”之稱的張宗昌聞風喪膽，遂於四月十二日下令直魯軍總退卻。第一集團軍幾乎不戰而進軍到鄭城。但是，孫傳芳殘部還有些戰鬥力，從左翼一舉攻破第一集團軍的陣線，打得蔣氏所部驚慌失措。馮玉祥聞訊命孫良誠的騎兵包抄孫軍後路，解除了第一集團軍的危機。四月二十二日，蔣、馮兩大集團軍在泰安會師。旋即合兵北指濟南，造成兵臨城下之勢。濟南守軍大亂，棄城潰逃。五月一日，蔣記第一集團軍劉峙、陳調元、顧祝同等部進入濟南城。
五月一日夜，蔣介石率總司令部到達濟南城，在舊督署設立總部。