肖洛霍夫於1905年5月28日出生在頓河草原維申斯卡亞鎮附近的克魯齊林村，其父喜愛藏書，熏陶了肖洛霍夫對於文學的熱愛。1918年，國內戰爭爆發，正在讀中學四年級的肖洛霍夫因而輟學回家。兩年後，頓河建立革命政權，少年肖洛霍夫曾在參加武裝征糧隊時被匪幫抓住，隻因年幼而幸免一死。
1922年，肖洛霍夫為了學習寫作來到莫斯科，在四處求職的同時開始文學創作。1923年，他加入文學團體“青年近衛軍”，同年發表處女作《考驗》。1924年，他加入俄羅斯無產階級作家協會，並於同年返回家鄉，專事創作。
革命和戰爭震撼了頓河大地，也給他提供了豐富的創作源泉。1926年，短篇小說集《頓河故事》和《淺藍的原野》相繼出版。作品以鮮明的形象、生動的語言和濃烈的鄉土氣息，將巨大的鬥爭場麵濃縮在個人關係或家庭矛盾之中，真實地反映了十月革命和國內戰爭時期頓河地區瞬息萬變的時代風雲，曆來被視為《靜靜的頓河》的前奏。
20世紀30年代，肖洛霍夫投身於席卷全蘇聯的農業集體化大潮，創作了《被開墾的處女地》第一部（1932）。這部小說反映了頓河地區哥薩克農村實行農業集體化的經過。這部小說緊貼社會現實，被譽為“藝術形式的曆史文獻”。小說的第二部構思於30年代，完成於1960年。作品雖然繼續描寫格內米雅其村集體農莊的鞏固，但在人物安排、情節發展等方麵都有了很大變化，而且著重表現的已是50年代大力提倡的人道主義精神。
在衛國戰爭期間，肖洛霍夫應征入伍，以上校軍銜在前線擔任戰地記者，發表了許多政論、特寫和短篇小說，並從1943年開始創作歌頌蘇聯軍民愛國主義精神的未竟之作《他們為祖國而戰》。
戰後，肖洛霍夫除了參加各種社會活動之外，仍定居維申斯卡亞鎮，並在這裏完成了短篇力作《人的命運》（1956）。這篇小說是蘇聯20世紀50年代後半期戰爭題材文學第二次浪潮的先聲。小說主人公索科洛夫是一個普通的蘇聯工人，在國內戰爭中參加過紅軍。40年代，他又拿起武器抗擊入侵的法西斯，不幸受傷被俘。後來，他生擒了一個德軍軍官，從戰俘營中逃了回來。可他的妻子和兩個女兒已在戰爭期間被敵機炸死，唯一的兒子則在攻克柏林的戰鬥中犧牲。他收養了在戰爭中成為孤兒的凡尼亞，兩人過著相依為命的生活。故事表現了一代人在戰爭中所經曆的悲劇遭遇，飽含著作者關注普通人命運的人道主義情懷。