史書記載，亞曆山大20歲時，被馬其頓的重臣兼外交家安提帕特推舉為新國王。利用在派拉的優勢，亞曆山大通過腓力二世的葬禮和減少稅收的政策，贏得了馬其頓人民和軍隊的支持。他以參與暗殺腓力二世的罪名處死埃羅普斯的兩個兒子——一個是當時被腓力二世派遣東征於小亞細亞的阿塔拉斯，一個是同有繼位權的阿明塔斯。他的母親奧林匹婭斯則殺掉了克莉奧佩特拉及其也有繼位權的兒子，亞曆山大於是成了馬其頓王族中唯一健全的男性繼承人。
被迫與腓力二世結盟的雅典和仇恨腓力二世的底比斯，把腓力二世被刺看作是重新贏得獨立的機會，開始展現出政局不穩定的跡象。為了贏得希臘同盟的承認，公元前336年末，亞曆山大帶領軍隊采取表麵議和卻暗度陳倉的策略，進入原被腓力二世統治的特薩利，他被承認為特薩利新的世襲統治者。亞曆山大之後南下，底比斯投降，雅典也再次臣服。
亞曆山大登位時，馬其頓的國庫正值資金緊缺。公元前335年，亞曆山大在科林斯重新得到除斯巴達之外的希臘城邦同盟的支持，出征馬其頓北部色雷斯。為東征小亞細亞穩固北部防線，並報複公元前338年當地特裏巴利部落對腓力二世部隊的偷襲和對戰利品的盜竊，在多瑙河打敗了特裏巴利。
就在這一時期，雅典和當地強權底比斯，利用亞曆山大死於多瑙河的謠言再次謀反。亞曆山大從伊利裏亞繞過馬其頓，隻用14天便到達底比斯。他與希臘同盟國徹底摧毀了底比斯，消除了威脅馬其頓的三大希臘勢力之一（另兩個為雅典、斯巴達），把該國分給盟國，並讓大部分底比斯邦民淪為奴隸。以軍力支持底比斯的領袖阿卡狄亞隨之被處死，已被封鎖港口的雅典隨後也放棄抵抗。不到兩年時間，亞曆山大就穩固了他在希臘的地位，給了所有反對他的人一個下馬威。此後他東征時，後方隻發生過一次有規模的騷亂。