陳友諒是沔陽的一個漁夫的兒子，他本來姓謝，祖父招贅在陳家，因而隨著姓陳。年少時念過書稍微懂些文理。有一個會看風水的人觀察他家祖先的墳地，說“據風水的模式定當大貴”，陳友諒心裏暗自高興。曾經在縣裏當小吏，他不喜歡幹。徐壽輝的軍隊起事，陳友諒去投奔他，在他的部將倪文俊那裏當掌簿書的佐吏。
徐壽輝，羅田人，又名真一。以販賣布匹為業。元朝末年盜賊蜂起，袁州的和尚彭瑩玉用妖術和麻城的鄒普勝聚眾起事，以紅巾為標記。他們因徐壽輝長相奇特，就推舉他為首領。至正十一年（1351年）九月攻陷蘄水和黃州路，打敗元朝的威順王寬徹不花。於是就以蘄水為都城，立徐壽輝為皇帝，國號“天完”，建年號“治平”，以鄒普勝為太師。沒有多久，攻陷饒州、信州。次年（1352年）分兵四處出擊，接連攻陷湖廣、江西的諸多州縣。接著又攻破昱嶺關，攻下杭州。別將趙普勝等人攻破太平各路，聲勢大振。但是，徐壽輝沒有遠大的抱負，所得之地不能守住，第二年（1353年）被元軍擊敗，徐壽輝逃脫。不久又興盛起來，把都城遷到漢陽，被他的丞相倪文俊所控製。
至正十七年（1357年）九月，倪文俊圖謀殺害徐壽輝，沒成功，逃往黃州。當時陳友諒隸屬於倪文俊，多次立下戰功，當上了領兵元帥，就找了個機會殺死倪文俊，吞並了他的部隊，自封宣慰使，不久稱平章政事。次年（1358年），攻陷安慶，又攻破龍興、瑞州，分兵攻取邵武、吉安。陳友諒本人率軍攻入撫州。不久，又攻破建昌、贛州、汀州、信州、衢州。其時，長江以南隻有陳友諒的兵力最強大。朱元璋攻下了太平，和陳友諒相比鄰。陳友諒攻陷元朝的池州，朱元璋派遣常遇春攻取了池州，從此多次相互攻擊。