7月19日中午，一場雷雨過後，天氣晴朗，太平門附近那條廢除地道突然被打通了，所埋的炸藥霎時爆炸，城牆被炸塌二十餘丈，湘軍各路由缺口擁入，太平軍用成篋火藥從高處擲下缺口，湘軍先鋒總兵朱洪章部當場就被炸死四百人。後來朱洪章回憶，他所部三千人，就有一千五百人在缺口處被殺死。後繼湘軍邀功，第二路劉連捷、第三路武明良相繼跟進。
東方主帥吳如孝率軍前來阻擋，已為時過晚，再也難擋住。吳如孝後脫險，逃回顧王府上吊自殺。李秀成見太平門已破，與視王黃亨乾率眾赴至天王府，洪天貴福與天王兩個小子光王洪天光、明王洪天明聚在他馬首。李秀成表示隻能帶洪天貴福一人突圍。天王兩個小子下落不明，據說後來逃到江西，又據在江西被俘的瑞王李譽生說，兩人在天京沒有能逃脫，都死了。天王府又正月宮賴娘娘和天王所有的大小月亮們，一個都沒有帶出來。洪天貴福的同父異母姐姐，二十六歲的老姑娘洪天姣也沒有逃出。她的未婚夫金王鍾萬信，卻獨自逃出天京，來到廣德追隨洪天貴福。金王後來跟著康王汪海洋。1866年2月，南方太平軍覆滅時，在廣東豐順白水寨被俘殺。
李秀成當時最大的信念是要擺脫天京危城，護送洪天貴福脫險，至湖州重開基業。他的雄才大略，早就在湖州同時做好了“讓城別走”的伏筆。在天京陷落前，就為陷落後出路作出了妥善的安排。湖州既是迎接江西就食軍回歸的中轉點，也是在天京失陷後，各部聚集、轉向的中樞站。當時洪仁玕和楊輔清、黃文金、劉官芳等天國上層人物都在那兒。
李秀成見洪天貴福坐騎不佳，就將自己所騎白馬與之交換，一起逃到天王府南的忠王府。在忠王府，他見了老母和家人一麵，表示為了護幼天王出走，已無力救護家人。他的兄弟、揚王李明成當即表示：兄護幼主，我護老母。李明成後來成功護送老母和李秀成幼子李其祥逃至廣德，也追隨了汪海洋。1865年在贛南山區的一次戰役不利，他攜帶老母投降了江西巡撫劉坤一。劉坤一釋放了他回鄉，但他卻沒有回鄉。1867年他遊**到上海，在租界被捕，當即表示：現在江淮一帶活動的撚首，不少是好朋友，願意前赴招降立功贖罪。但這回地方當局卻沒有放過他，把他處死了。李其祥僅是四歲幼兒，1864年10月，洪天貴福等在江西石城軍覆時被搜獲，關押在南昌監獄，候成年處決，以後下落不明。李秀成有否長子（忠嗣君，為避諱稱“忠嗣鈞”），語焉不詳。但野史之作者因追慕李秀成，多曾編造李秀成的所謂兒子們。二十世紀三十年代初顧明道《荒江女俠》還編出一個李秀成兒子李天豪落草為寇行俠仗義的故事。