郭子兴也把他视作心腹知己，有重要事情总是和朱元璋商量。当时郭子兴有一养女，是其至交马公的女儿。马公死后，他最小的女儿便由郭子兴收养。此时，郭子兴见朱元璋是个人才，对自己的事业将会有很大的帮助。于是便把21岁的养女马氏嫁给了朱元璋，从此军中改称他为朱公子。有了身份，便不能再用从前的小名重八了，于是就另起了正式名字元璋，字国瑞。

当时，在濠州城中，红巾军有五个元帅。郭子兴一派，孙德崖与其他三个元帅一派，两派之间矛盾重重。这年九月，徐州红巾军主将芝麻李被元军杀害，其部将彭大和赵均用率兵到了濠州，彭大与郭子兴交好，而孙德崖等人则拉拢赵均用。在孙德崖的鼓动挑拨下，赵均用绑架了郭子兴，并将郭子兴弄到孙家毒打一顿，准备杀掉郭子兴。朱元璋闻讯后，在彭大的支持下，率兵救回了郭子兴。从此，两派结怨更深了。

朱元璋见濠州城诸将争权夺利，矛盾重重，决心依靠自己的力量，开创新局面。至正十五年(公元1355年)六月中旬，朱元璋回乡募兵，少年时的伙伴徐达、周德兴、郭英等和同村邻乡的熟人听说朱元璋做了红巾军的头目，纷纷前来投效。于是朱元璋很快就募兵七百多人，回到濠州，郭子兴十分高兴，就提升朱元璋做了镇抚。

这年冬天，彭大的儿子彭旱住自称鲁淮王，赵均用自称永义王，而郭子兴等仍是元帅。

朱元璋见这些人半年没出濠州城，于是他从自己招募的新兵中挑选了心腹徐达、汤和等二十四人离开濠州，南略定远。在南略定远途中，朱元璋先招抚了张家堡驴牌寨民兵三千人，后又招降了豁鼻子秦把头的八百人。统率着这支队伍，朱元璋向东进发，乘夜攻破定远横涧山的元军营地，元帅缪大亨投降。朱元璋从降军中挑选了精壮汉人二万人编入了自己的队伍，并南下滁州(今安徽滁县)。

在南下滁州途中，定远名人李善长到军门求见。李善长和朱元璋一见如故，李善长以汉高祖刘邦为例劝说朱元璋：只要效法刘邦知人善任，不乱杀人，很快便可平定天下。朱元璋认为很有道理，于是留李善长做了幕府的书记，并嘱咐李善长好好协调将领间的关系，共创大业。

朱元璋很快攻下了滁州，其亲侄儿文正、姐夫李贞带着外甥保儿(后来取名文忠)前来投靠。从他们口中，朱元璋得知二哥、三哥、姐姐都去世了，不免伤心。其时还有定远孤儿沐英，甚是可怜，于是，朱元璋就将这三个孩子收作养子，改姓朱。后来，朱元璋又收养了二十几个义子。

在朱元璋进攻滁州时，郭子兴受到赵均用、孙德崖等人的排挤，所以，朱元璋攻下滁州城不多久，郭子兴也来到了滁州。朱元璋立即交出兵权，三万人的队伍，纪律严明，军容肃整，郭子兴见了十分欢喜。

1353年，朱元璋任命虹县(今安徽泗县)人胡大海为前锋，一举攻克了和州。消息传来，郭子兴即刻任命朱元璋为总兵官，镇守和州。一次，朱元璋外出，看到一个小孩在哭，朱元璋问他为什么哭，答说是等父亲。朱元璋仔细一询问才知道，原来孩子的父亲和母亲都在军营，父亲在营中养马，母亲和父亲不敢相认，只好以兄妹相称。朱元璋意识到，部队军纪存在问题，他们攻破城池后，扰民滋事，掳掠妇女，这样下去，部队将失去民心。于是，朱元璋召集众将，申明纪律，下令归还军中有夫之妇，让城中许多被拆散的夫妻团圆。此事广为传颂，朱元璋深得民心。

此年三月，郭子兴病逝，小明王韩林儿任命郭子兴的儿子郭天叙为都元帅，妻弟张天为右副元帅，朱元璋为左副元帅。名义上，都元帅是军中之主，右副元帅的地位也比左副元帅高。但是滁州和和州的军队，多是由朱元璋招募收编的，而且朱元璋比郭天叙和张天有勇有谋，并且手下又有人才。所以，朱元璋事实上成了这支队伍的主帅。