皇見濠州城諸將爭權奪利，矛盾重重，決心依靠自己的力量，開創新局面。至正十三年（公元1353年）六月中旬，明皇回鄉募兵，少年時的夥伴徐達、周德興、郭英等和同村鄰鄉的熟人聽說明皇做了紅巾軍的頭目，紛紛前來投效。於是很快就募兵七百多人，回到濠州，郭子興十分高興，就提升明皇做了鎮撫。
這年冬天，彭大的兒子彭旱住自稱魯淮王，趙均用自稱永義王，而郭子興等仍是元帥。明皇見這些人半年沒出濠州城，於是他從自己招募的新兵中挑選了心腹徐達、湯和等二十四人離開濠州，南略定遠。在南略定遠途中，明皇先招撫了張家堡驢牌寨民兵三千人，後又招降了豁鼻子秦把頭的八百人。統率著這支隊伍，明皇向東進發，乘夜攻破定遠橫澗山的元軍營地，元帥繆大亨投降。明皇從降軍中挑選了精壯漢人二萬人編入了自己的隊伍，並南下滁州（今安徽省滁州市）。
在南下滁州途中，定遠名人李善長到軍門求見。李善長和明皇一見如故，李善長以漢高祖劉邦為例勸說：只要效法劉邦知人善任，不亂殺人，很快便可平定天下。明皇認為很有道理，於是留李善長做了幕府的書記，並囑咐李善長好好協調將領間的關係，共創大業。
明皇很快攻下了滁州，其親侄兒文正、姐夫李貞帶著外甥保兒（後來取名文忠）前來投靠。從他們口中，明皇得知二哥、三哥、姐姐都去世了，不免傷心。其時還有定遠孤兒沐英，甚是可憐，於是，明皇就將這三個孩子收作養子，改姓朱。後來，明皇又收養了二十幾個義子。
在明皇進攻滁州時，郭子興受到趙均用、孫德崖等人的排擠，所以，明皇攻下滁州