不久，有个参加红巾军的老乡汤和从濠州捎信给他，说现在兵荒马乱，人无宁居，呆在乡下很不安全，何不前来人伍，或许还有活路。朱元璋看完信偷偷烧掉，翻来复去想了好些日子，一直决断不下。后来，同屋的师兄告诉他，有人发现他收到濠州来的信，要去官府告发，劝他赶快逃走。朱元璋急得没法，找了个知心的熟人商量，问他是应该"束手以待罪"还是"奋臂而相戕"?那人劝朱元璋向菩萨讨个卦，再决定去留。朱元璋原先并不怎么相信神佛有灵，对菩萨也不那么恭敬，事到如今，只好硬着头皮试一试了。他走近伽蓝殿，看大殿内外没有其他人，便走进去，点上香，磕了头，祈求冥冥之中的菩萨给他一个启示，接着拿起神案上的两块玟来卜卦。他先卜问是出去避难还是守在庙里，卜了三次，都是否定性的凶卦，再卜问是否应该跟着红巾军造反，结果竟是肯定性的吉卦，于是决心去投奔起义军。

至正十二年(1352年)闰三月初一(阳历4月15日)，朱元璋身穿破烂的袈裟，抄小路来到濠州，准备进城投奔郭子兴。由于城外驻扎着元军，城中的红巾军守卫很严，士兵怀疑他是元军派来的奸细，把他捆绑起来，准备押出城外处决。朱元璋和士兵争吵起来，吸引了许多围观群众。有人把这事报告郭子兴，郭子兴骑马驰出城门，想问个究竟。他喝退士兵，端详这个和尚，身材高大，黑黑的脸盘上，高额突出，下巴比上额又长出好几分，再配上高高的颧骨，活像一个横摆着的立体形的山字。模样虽然不甚好看，但身体结实，双目炯炯有神，再加上那副大鼻子大耳朵，倒也显得十分威武。郭子兴下马细问，知是於皇寺的穷和尚，现年二十五岁，是自己的部下汤和邀来投军的，就叫亲兵松绑，收下他做步卒。

朝的黑暗统治和地主阶级的残酷剥削压迫，把朱元璋逼入存身无处、生命不保的绝境。为了寻求一条活路，这个贫苦出身的穷和尚，终于在时代潮流的裹挟下，投身到反抗封建压迫剥削的斗争，成为一名红巾军战士，并加人了白莲教。

参加郭子兴的起义队伍后，朱元璋脱掉袈裟，换上红袄，头扎红巾，每天在队长的带领下，同战士们一块儿上操，练习武艺。由于他操练十分认真刻苦，不到十来天，就成为队里拔尖的角色。郭子兴每次领兵出击，都把他带在身边，他"从旁翼卫，跳荡无前。斩首捕生过当"，立下不少战功。不久，郭子兴把他调到元帅府当亲兵，授予九夫长的军衔，有事经常找他商量。日子一长，郭子兴觉得朱元璋有胆有识，有勇有谋，是个将才，开始叫他带兵作战。朱元璋每次率兵出征，都身先士卒，冲杀在前；得到战利品，又分毫不取，悉数分给部下，因而深受士兵的拥护，上下一心，所向披靡。郭子兴"由是兵益盛"，对朱元璋也更器重，决定把他收为心腹。郭子兴的第二夫人张氏，人称小张夫人，抚养了一个义女，是他的老友马三的小女儿。马三原是宿州闵子乡新丰里的富户，"以赀豪里中"，他少壮时"膂力过人，沉毅寡言笑，重然诺而性刚强。疾恶，见有为不义者，视之若仇雠。然或少忤其意，辄肆殴击"虽至死无所畏惮，乡人无敢犯"。又喜交宾客，"善施而贫"。至顺三年(1332年)，他的妻子郑,女儿后死去。不久，他因杀人避仇，带着小女儿逃到定远投奔郭子兴，与之结为刎颈之交。郭子兴揭竿起义时，马三回宿州策划起兵响应，不料回去不久就死了。郭子兴把他的小女儿当做自己的子女看待，交给小张夫人抚养。郭子兴一心要把朱元璋收为心腹，就找小张夫人商量，想把这个义女许配给他。小张夫人早听说朱元璋人才出众，马上表示赞同："吾意亦如此!今天下大乱，君举大事，正当收集豪杰，与成功业，一旦彼或为他人所亲，谁与共成事者?"他们把这事告诉朱元璋，朱元璋早就听说马氏虽然长得不太漂亮，但端庄温柔，不仅"善承人意"，而且"知书精女红"，是个贤慧的姑娘，何况她又是元帅的义女，和她一结婚，前程就更有保障，于是满口答应。郭子兴择个吉日给他们两口子成了亲，将士们从此便称呼朱元璋为"朱公子"。

郭子兴将朱元璋招为女婿后，对他更加信任。不久，让他带领一支队伍，外出攻城掠地。他先后攻五河，取定远，克南宿、大店、固镇等地。但是，当朱元璋领兵回到濠州、城里的五大元帅却闹开了磨擦。原来，五个元帅中，孙德崖等四人名位皆在郭子兴之上，郭子兴陛"素刚直，不屈人下"。孙德崖等四人都出身农民，性格粗犷憨厚，但缺少智谋，整天只考虑如何剽掠财物，郭子兴"意轻之"，他们心里不高兴，便联合起来对付郭子兴。两下里面和心不和，一块儿议事，总是吵得不可开交。后来，郭子兴常常呆在家里不出门，很少参加公会。朱元璋回到濠州，郭子兴找他商量对付的办法。朱元璋劝郭子兴照常和大家一起公会，有事大家一块儿商量，接触的机会多了，互相了解，情况会逐渐好转起来。郭子兴觉得有道理，第二天就出去公会，可是刚过三天，又和孙德崖他们闹翻，呆在家里生闷气不再出门。双方的关系越搞越紧张，彼此猜疑，互相防范，都怕对方下毒手。

九月，正当濠州五个元帅闹磨擦之时，另一支红巾军的首领彭大、赵均用从徐州前来投奔。他们各自支持一方，火上浇油，使五个元帅的矛盾更加尖锐。

自刘福通点燃颍州起义的火炬之后，各地农民军的势力发展很快，一年多的时间，即占领了黄河以南的大部分地区，包括武昌、杭州等许多重要城市在内，切断南北的交通。面对汹涌而来的起义浪潮，元廷从各个方面调整蒙古、色目贵族和汉族地主阶级之问的关系，宣布实行纳粟补官之令，规定："凡各处士庶，果能为国宣力，白备粮米供给军储者，照依定拟地方实授常选流官，依例升转、封荫；及已除茶盐钱谷官有能再备钱粮供给军储者，验见授品级，改授常流"；并在中央机构再次起用南人，规定："南人有才学者，依世祖旧制，中书省、枢密院、御史台皆用之"，任用宁国(今安徽宣城)人贡师泰为监察御史，饶州(今江西波阳)人周伯琦为兵部侍郎，借以缓和统治阶级内部的矛盾，一致对付农民起义。同时，下令"天下完城廓"，制定惩治"军民官不守城池之罪"的办法，并调集各地兵力，加紧对起义军的镇压。

当时芝麻李、赵均用、彭大等人占据徐州，声势日盛。元朝派淮南宣慰使逯鲁曾带兵前去镇压，由于元军不习江淮水土，他召募濒海盐丁及矫勇健儿二万人，穿黄衣，戴黄帽，组成一支"黄军"，包围徐州城。元右丞相脱脱看到徐州唾手可得，自请挂帅出征，令征讨徐州将领驻守原地，待他到达后，才许攻城。元顺帝批准脱脱的请求，命中书省、枢密院、御史台派出部分官属随从出征，禀受节制，一切悉听脱脱便宜行事。至正十二年九月，脱脱率领十万元军抵达徐州，采用宣政院参议也速之计，以巨石作炮，昼夜猛轰，攻人城里。芝麻李力战突围，辗转进入湖北，投奔徐寿辉，以后又随明玉珍出兵四川，最后出家为僧，遁身空门。赵均用、彭大及其子彭早住率领部分队伍，投奔濠州。
⊥⊥
赵均用、彭大来到濠州后，他们的兵力超过濠州原来的力量，而且由于他们起义较早，名望较高，濠州五个元帅只好听从他们的指挥。彭大颇有智术，专权自断，赵均用唯唯喏喏，事无主见。郭子兴看不起赵均用而厚待彭大。赵均用因此怨恨郭子兴，亲近孙德崖四人。孙德崖四人乘机在赵均用面前挑拨说："子兴知有彭将军耳，不知有将军也!"赵均用大怒，待郭子兴走到街上，派人把他抓住，关到孙德崖家里，准备暗地把他杀掉。此时朱元璋正奉郭子兴之命攻打怀远及安丰，他闻讯急忙赶回，路上遇到熟人，说郭元帅已被赵均用、孙德崖抓走，他们还要抓你呢，劝他千万别回濠州。朱元璋说："郭公于我恩厚。有难不救，非义也，何丈夫之为?"他赶到郭子兴家，只有郭子兴的几个妻妾在，郭子兴的儿子怕赵均用、孙德崖，都躲起来。朱元璋问郭子兴的儿子藏在哪里?几个夫人心存疑虑，闭口不答。朱元璋急了，说："我岂外人而乃疑我?今来，谋脱公难也几个夫人这才道出儿子们的躲藏地方。朱元璋说："我公素厚彭而薄赵，祸必赵发，此非彭不可解。"第二天，曙色微明，朱元璋陪小张夫人和郭子兴的次子郭天叙、三子郭天爵，一块儿找彭大求救。彭大听明情况，勃然大怒："我在此，谁敢尔!"他立即呼唤左右亲随，带领队伍去包围孙德崖家。朱元遗回家脱掉长袍，换上盔甲，带着武器，也赶到孙德崖宅前。他们爬上屋顶，揭瓦掀椽，下到屋里，杀死孙德崖的祖父母，在一个暗窖里找到郭子兴。只见郭子兴脖子上套着木枷，双脚系着镣铐，浑身已被打得皮开肉绽。几个人七手八脚打开枷铐，把他背回家里治疗。

赵均用、彭大、彭早住投奔濠州后，脱脱派升任中书左丞的贾鲁与知枢密院事月阔察儿领兵尾随而来。这一年冬天，濠州已被元军紧紧包围起来。大敌当前，濠州城里的几个首领这才丢开嫌怨，共同指挥将土守卫城池。他们凭借城高濠深，粮食充足，坚守了七个月。贾鲁担心元军驻屯坚城之下，时间一长，士卒疲惫，士气低落，决定不惜代价，攻下这座城池。至正十三年(1353年)五月的一天，他与月阔察儿亲自临阵督战，下令："必以今日巳、午时取城池，然后食。"一时金鼓齐鸣，杀声震天。不想刚刚攻到城下，贾鲁忽然感到头晕目眩，天旋地转，从马上摔下来，不久病死。主帅一死，元军无心恋战，解围而去。濠州脱离了险境，彭大、赵均用喜不自胜，彭大称鲁淮王，赵均用称永义王，郭子兴和孙德崖等五人仍称节制元帅，听从他们的指挥。

在元军对濠州合围后，朱元璋曾奉命领奇兵从城中突围而出，攻打萧县、灵璧和虹县。元军撤围后，濠州虽然转危为安，但死伤不少人马，储存的粮食也用光了，急需补充兵员和粮食。朱元璋通过一个老朋友的关系，弄到几引盐，用船载到怀远，换回几十石粮食，交给郭子兴以救燃眉之急。六月，又回到钟离招募士兵。比他小四岁的永年乡人徐达前来应募，与朱元璋"一见语合"，朱元璋把他收置麾下。前来应募的还有周德兴、郭兴(又名子兴)与郭英兄弟、张龙、张温、张兴、顾时、陈德、王志、唐胜宗、吴良与吴祯兄弟、费聚、唐铎、陆仲亨、郑遇春、曹震、张翼、丁德兴、孙兴祖、陈桓、孙恪、谢成、李新、何福、邵荣、耿君用与炳文父子、李梦庚、郁新、郭景祥