當陳開、李文茂在廣州與清軍鬥得死去活來時,廣西的朱洪英、胡有祿也收到石達開、羅大綱的來信,請他們率師北上,並且聯合廣東的陳、李出兵湖南,擬在湘、鄂、贛地區與太平軍會師,打通兩廣通道。
鹹豐四年閏七月,朱洪英、胡有祿率領天地會人馬攻打湖南永州;甘先、何六出兵進攻郴州、桂陽;陳金剛出兵連州,攻打臨武。一時間,湘南烽煙四起。
駱秉章收到警報,與左宗棠商議。左宗棠馬上調兵遣將,命令黃文琛守永州,防止廣西天地會人馬從湘桂官道進攻;王錱守江永,防止天地會人馬出兵富川;陳立紀守零陵,受黃文琛節製;衡永道文格守衡陽,趙永年守臨武,王葆生守郴州,李輔明守桂陽,調周雲耀守江華。東安離廣西最近,江忠濟守東安,以拒朱洪英、胡有祿,駱元泰為後備軍。
陳亞貴死後,朱洪英在東安淥埠頭隱藏了一段時間,又在東安鄰縣全州、灌陽等地秘密發展會員,建立公義堂,在湘、桂邊界擁有三四萬人馬,結交了不少江湖好漢,胡有祿就是其中之一。
胡有祿,廣西武宣人。身高力大,是一個販賣私鹽的販子,他使一把宣花斧,重六十四斤,騎一匹紫騮馬,遠近聞名,是武宣天地會首領。道光二十六年七月,在陳亞貴的指揮下,胡有祿率兵攻打湖南寧遠,遭到失敗。但他並不甘心,與哥哥胡有福、好友羅大綱一起攻陽朔,又遭失敗。胡有福被俘,被押到桂林斬首示眾。
自洪大全被俘,太平軍離開廣西以後,天地會一直處於離散狀態。朝廷苛捐雜稅嚴重,又到處搜查太平軍、天地會餘黨。一時間,風聲鶴唳,不少義軍家屬被關入大牢,有的還被殺頭。
九月初,朱洪英領導天地會一千多人在興安起義,胡有祿率數百人來投,何賤苟也從湖南道縣率軍來投。幾天以後,朱洪英與鄧正高的起義軍一起攻克灌陽縣城,建立起“升平天國”,奉“太平天國”為正朔。朱洪英稱鎮南王,胡有祿稱定南王,何賤苟、鄧正高管理內部事務,仿明朝官製設立文武官員。