徐達和常遇春按照朱元璋的戰略意圖，率領二十萬大軍先去攻打湖州，為了牽製住張士誠兵力，徐達讓李文忠率軍攻打杭州，華雲龍率軍攻打嘉興。
徐達重重包圍湖州城，張士誠得知情況後，大驚，連忙派呂珍率軍趕去支援。
八月，呂珍得令後，與五太子等人率領六萬精銳之師支援湖州，並屯兵在湖州城東的舊館。呂珍和徐達、常遇春算是老對手了，在安豐城下，他的軍隊被常遇春的騎兵衝得落花流水，從此以後他心有餘悸，不敢與之對敵。
呂珍知道徐達和常遇春都不是好惹之人，於是決定采取不主動進攻，而積極防禦的措施，命人修築五寨以自保。
徐達深通兵法，一看呂珍命人修築五寨，便知他心意，於是命令常遇春建造十座堡壘加以圍阻，想辦法切斷舊館來援。
張士誠得知後，哪裏按捺得住，連忙親率精兵前來援助，結果被徐達大敗於皂林，張士誠落荒而逃。
十月，五太子率軍援救升山水寨，卻又被猛將薛顯和常遇春兩人打得落花流水。從此，舊館吳軍一蹶不振，五太子、朱暹、呂珍等人見勢不妙，隻得投降。
“五太子盛兵來援常遇春，稍卻薛顯率舟師直前奮擊，燒其船，其眾大敗，其五太子及朱暹、呂珍等，以舊館降得兵六萬人。”（《明太祖實錄》）
不過關於這段曆史，《明史》上的記載卻又不同，裏麵說呂珍是被馮勝所擒。
“擒吳將呂珍於舊館。”（《明史·馮勝傳》）
一般來說，主動投降之人一般都會把全家的珍寶集中起來敬獻給對方，然後再把自己袒胸露背地捆綁起來，跪倒在對方麵前，但是呂珍卻是不同。他在投降之前，一直忙著燒書。
明朝四大才子之一的祝枝山曾編寫過一本書，叫作《九朝野記》，裏麵記載著這樣一個故事。