正当南北两支红巾军在广阔的战场上同元朝军队和地主武装作战的时候，朱元璋发展了自己的力量。在进行了十年之久的农民战争之后，朱元璋削平了江南群雄，开始发动北伐讨元的战争，推翻了元朝，统一了全国。
（一）江南政权的建立
朱元璋，濠州（今安徽凤阳）钟离人，出身于一个贫苦农民的家庭，小时候给地主家放牛看羊，过着穷困的生活。17岁的时候，父母兄弟相继死亡，由于无依无靠，就到皇觉寺当了和尚。住了五十多天，寺院的和尚因吃不饱而遣散僧人，他没有办法，为生活所迫，当了两三年的游方僧，实际上也就是乞丐，沿途要饭，生活自然十分艰苦。到至正八年（1348年）又回到了濠州的皇觉寺。在这三年多的时间内，他周游了安徽、河南的八九个郡县，熟悉了这一地区的地形。由于生活在社会的最底层，了解到了社会的弊病，丰富了社会知识。由于无依无靠，到处周游，自然就要去结识江湖上的朋友，增长了江湖义气。由于离开家乡，到处周游，自然也扩大了眼界，冲刷掉了保守狭隘等农民固有的习性。艰苦的流浪生活，也锻炼了勇敢坚强的性格，但同时这种流浪生活也铸就了他性格的另一方面——猜忌、残忍。所以朱元璋这三年多的流浪生活，对他后来事业的发展，有着十分重要的影响。
至正十一年（1351年）江淮一带人民纷纷起义，其中以颍州刘福通的起义影响最大。第二年，定远人郭子兴与孙德崖等五人率众起义，自称元帅，攻占了濠州城。元朝政府派彻里不花率领三千骑兵前来镇压，但是元军胆小，害怕打仗，不敢逼近红巾军，远远地离濠州城三十里扎营，只有四处去捕捉老百姓，包上红头巾，充当抓到的红巾军俘虏，向上级去献功。于是，百姓都遭受其害，相继进入城中，去参加红巾军。朱元璋也在这种情况下，前往濠州，参加郭子兴领导的红巾军。朱元璋刚开始的时候只是一个小小的步兵，两个多月后，郭子兴提升他为亲兵九夫长，并且调到帅府去做事。郭子兴看到朱元璋度量豁达，有才智，才能出众，把他视为心腹，并且把养女马氏嫁给了他。从此，人们就叫朱元璋为“朱公子”。
在濠州和郭子兴同时起兵的孙德崖等四人，名位都在郭子兴之上。他们与郭子兴的意见常常有些分歧，而郭子兴也看不起他们的粗直的脾气，言语之中常常带些讥讽。至正十二年（1352年）九月，元军攻陷了徐州，起义军首领李二战死，彭大和赵均用率领余部突围到濠州。彭大和赵均用虽然率领着战败的军队，但兵力仍然要比濠州的起义军强大，因此，濠州的五帅都受彭大和赵均用的节制。郭子兴和彭大一起，赵均用和孙德崖等四人在一起，两方面不断发生摩擦，十分激烈。后来元朝将领贾鲁追击农民军，包围了濠州城，大敌当前，只好暂时把内部矛盾放在一边，共同对付农民军，后来贾鲁死了之后，元兵都离开了。濠州起义的人在五个月的守城作战中大部分死伤，于是朱元璋回到家乡去招募军队，招到了七百人，郭子兴就让他去带领，并且提升他为镇抚。从此，朱元璋成为正式带兵的军官。但是朱元璋感到几支起义军在同一个地方，相互之间不断发生冲突，彭大和赵均用常常以王者自居，部下也都欺凌他人，心里很不满。因此，他决定离开濠州，独立发展。为了不引起其他首领的猜疑和反对，他在至正十四年（1354年）六月离开的时候，把原来所率领的七百人的部队让给了其他人去统领，只是从中挑选了徐达、汤和等二十四人，带到了定远。这个时候定远张家堡有民兵三千人，因为缺乏粮食，走投无路，朱元璋就把他们招编过来。接着又凭借这一支三千人的队伍，收编了缪大亨在横涧山的义兵两万余人。从此，朱元璋有了几万人的大部队，发展十分顺利。定远人冯国用和他的弟弟冯国胜，都很喜欢读书，通晓兵法。当朱元璋统率新整顿好的部队向滁阳进军，路过妙山的时候，曾和他们讨论天下大事，冯国用建议他先夺取帝王之都金陵，然后出兵征伐，提倡仁义、收买人心，不要贪恋美女金钱，天下才能够稳定。冯国用的这一席话，正合了朱元璋口味，朱元璋十分高兴，就叫他在幕府当参谋计议大事。当朱元璋的部队向滁州进军的途中，定远人李善长也到军营中求见，他从小就有智慧及计谋，能够预测事情，都很准确。朱元璋就留他在幕府掌书记。朱元璋有什么问题就去询问他，称其有诸葛亮的才能。此后，李善长也确实起到了这样的作用。将领之间有摩擦的，李善长为他们调节。对于新来归附的战士，李善长审查他们的才能，建议朱元璋因才施用，并向他们解释朱元璋对他们的诚意，使他们解除疑虑。
至正十三年（1353年）七月，朱元璋的部队顺利地攻下了滁州。不久，郭子兴率剩下的部队万余人来到滁州，看到朱元璋的将兵三万多人，号令严明，非常高兴。十月，元代丞相脱脱率师围攻高邮，分兵攻打六合。六合的起义军派遣使者来到滁州求援，郭子兴因为和他们的首领有仇，不肯发兵去救援。但是朱元璋看到了唇亡齿寒的形势，就率兵前去支援，实在抵抗不住了，就组织全城军民撤退到滁州。元兵跟踪追击到滁州城外，朱元璋在涧边设置埋伏，大败元军。这时朱元璋清醒地估计到，虽然打了胜仗，但是元军还依旧很强，由于害怕元军再来攻打滁州，朱元璋就要城中的父老把战场上获得的元军的马匹之类的东西，都送还给元军，还肯定地告诉元军将领说：“滁州城中的都是老百姓，聚集在一起，只是为了防御盗寇，你们应该去攻打高邮才对，怎么分兵来攻打滁州呢？饶了这一地方的百姓们吧。军需物资是我们情愿供应的。”朱元璋就这样把元军这一股祸水引向了高邮。
元军撤退了，接着张士诚又在高邮大败元军，江淮地区的农民军就活跃了起来。但郭子兴却没有什么远大的抱负，只是觉得自己和其他起义军的首领相比，名声还不够大。当时元朝的军事压力虽然解除了，但是几万军队聚集在滁州这个山城里，军粮却出现了问题。朱元璋建议移兵到和阳。至正十五年（1355年）正月，张天佑和汤和率军攻取和州，郭子兴就任命朱元璋为和阳总兵。当时军队纪律非常不好，朱元璋就通过各种手段去整顿军纪。不久，孙德崖的起义军也来到和阳，郭子兴一听到孙德崖到了和州，他也急匆匆地从滁州赶来，双方发生了一次冲突，孙部抓了朱元璋，郭军抓了孙德崖，结果是双方以相互交换而告终。
至正十五年（1355年）三月，郭子兴病死，这个时候刘福通等人已经在亳州建立了龙凤政权，就派人去和阳招人，大家推选张天佑到亳州去任命。四月，张天佑带回龙凤政权的命令：以郭子兴的儿子郭天叙为都元帅，郭子兴的妇弟张天佑为右副元帅，朱元璋是左副元帅。但在实际军事事务中，朱元璋掌握大权，他也是事实上的主帅。因为朱元璋有一支自己亲手建立起来的军队，也有和自己患难与共屡经战阵的贴身将领，还有一批为他出谋划策的谋士。朱元璋对上面的任命实际上是十分不满意的。但是他的部下将领和谋士们提出，光靠自己的力量，确实还不够，不如先接受这个任命。朱元璋这才接受。
和州（安徽和县）紧靠长江北岸，虽然水陆交通比山城滁州要好些，但是它的前面是长江，后面又是龙凤政权的管辖地区，不利于向外面发展，而且这个时候元军又不断前来攻击，还有孙德崖所部的农民军也总是想来吞并，军粮也成了问题。所以要想摆脱这样的困境，得到大的发展，就必须打过长江去，这是冯国用、李善长等刚参加朱元璋的起义军的时候就已经提到的。现在虽然已经驻军在江岸，但面对着滔滔的江水，没有办法渡过。
朱元璋正在发愁没有船只渡江的时候，巢湖水军俞通海前来请求支援。原来，汝颍红巾军起义之后，俞廷玉和他的儿子通海、通源以及赵普胜等，三次派人到和州请求支援。朱元璋在至正十五年（1355年）五月亲自率兵去巢湖，正赶上大雨，巢湖水军的船只顺利驶入长江，除了赵普胜在途中率领他的部队彭莹玉以外，其他的水军和船只都到达了和州，于是军威大振，这时常遇春和邓愈也都归附了朱元璋。六月一日，朱元璋率领部将渡江。按照朱元璋的指示，先攻取了牛渚，再向外发展，攻下了采石镇。江东地区的太平比较富裕，当时将士和士兵都已经很饥饿，看到粮食和牲畜，都想抢回去。朱元璋看到这种情况，就和徐达说，现在大军渡江，比较幸运的能够打败敌人，就应该乘着这个时候夺取太平，如果军士夺取财物就回来，再去攻打恐怕很困难，江东就不是我们的了，大好的形势就失去了。于是朱元璋就下令把船的绳缆全部砍断，把船推到江心，顺流而下。这样一来，就断了士兵返回北岸和州的念头，军士们都很吃惊。后来朱元璋夺取了城池，不许将士们夺取百姓的财物，只是把有钱人献出来的金帛，分给将士们。
当农民军进入太平城的时候，儒士李习、陶安等率领人们出城来迎接，陶安见到了朱元璋，就说：“我们已经等你很久了。”朱元璋就问他：“我想夺取金陵，请问您认为如何？”陶安说：“金陵是历代帝王的都城，龙盘虎踞，又凭借着长江的险要，如果想要夺取它，根据它的地形，出兵来攻克它的四方，则没有什么破不了的。”陶安的这一建议，和以前的冯国用、李善长所说的基本相同，很合朱元璋的心意，就任命陶安为参幕府事。并把太平路改为太平府，任命李习为知府。大家推举朱元璋为元帅，朱元璋又任命李善长为帅府令使。移用宋龙凤年号，旗帜和战衣都用红色。朱元璋的江南政权已经初步建立了起来。
这个时候，太平周围的元军向没有稳定的红巾军反扑过来。元朝的右丞相、中丞相和义兵的元帅分为水陆两道，直接来攻打太平城。朱元璋亲自督兵进行作战，郭天叙和张天佑在这场战争中牺牲。二人死后，朱元璋就接管了郭子兴的所有部队。这个时候，蛮子海牙的水军还在采石江上截断太平红巾军和北岸和州等地的联系。由于红巾军将士的家属还留在和州，没有办法互通消息，人心都很不安。至正十六年（1356年）二月，朱元璋命令常遇春率军进攻蛮子海牙的水军，蛮子海牙逃进集庆城里，从此南北可以进行沟通。三月一日，朱元璋亲自率领大军，三次攻打集庆，从太平水陆进攻。三日到达江宁镇，破了陈兆先的营寨，得到了降兵三万六千人。十日，攻破集庆城，元军守将行台御史大夫战死，蛮子海牙逃跑投降张士诚，水军元帅投降，得到了军民五十多万。第二天，朱元璋巡视了集庆城后登上城楼，对他身边的徐达说了这个大好形势，只要同心协力，没有不成功的道理。当天就改集庆路为应天府，建立统军的大元帅府。到七月，又置办了行中书省、枢密院、理问所、提刑按察司、营田司等机构。朱元璋很快就把政治、军事、经济等方面的机构建立起来，俨然是一个政府。
（二）江南政权的巩固和发展
1.周围的形势
朱元璋在至正十六年（1356年）渡江建立江南政权的时候，张士诚也在这年的二月攻下了平江，建为国都；徐寿辉的蕲黄红巾军也东山再起，迁都于汉阳。而刘福通、韩林儿龙凤政权所派遣的西征军，也在这年的九月攻下了军事重镇潼关。整个农民起义的形势十分喜人。但从朱元璋江南政权来说，形势却十分严峻。东南方向的张士诚的势力已经从平江伸展到常州；西北方向，徐寿辉的红巾军已经扩充到池州。这些虽然都是农民起义部队，但是彼此之间也是水火不容的。而元朝的军队也紧紧地包围着江南政权。
从当时朱元璋的战略形势来看，镇江是应天的大门，如果张士诚占领镇江，则东边的门户就被打开了，张士诚随时可以进攻应天。宁国和广德则是应天的南大门，这两个地方如果长期为元军所占，或者被徐寿辉攻占，那么敌人也可以随时进攻应天，使得江南政权不得安宁。要确保应天的安全，就必须尽快占领这几处地方。因此，朱元璋在占领集庆的当月，就派徐达攻下了镇江。到了六月份，又派邓愈攻下了广德。这样就保证了应天的安全。宁国则是因为元军派有重兵驻守，徐达、常遇春都没有把它攻下来，直到至正十七年（1357年）四月，朱元璋亲自统率大军才把它攻了下来，俘虏了朱亮祖，得到将士十余万。朱元璋原来想占领镇江以后，与在平江的张士诚采取保境相安的策略。派遣杨宪到张士诚那里去通好，但是张士诚非常不高兴，拘留了杨宪，并且派兵到镇江，被徐达、汤和所打败。朱元璋感到张士诚既不愿通好，然而双方所占领的地盘又是紧紧相连的，就下决心先攻打张士诚，以安定自己的大本营。在打败了张士诚进攻镇江的部队之后，立即派徐达进攻常州。到了至正十七年（1357年）二月，攻克了常州。同时派耿炳文、刘成从广德攻克长兴。六月，攻下了江阴。七月，徐达攻下了常熟。这一系列的胜利，对于朱元璋而言，意义重大。朱元璋在攻下常熟之后，就停下了对张士诚的攻势，把矛头转向了浙东方向的元朝统治。因为张士诚的部队战斗力比较强，暂时不容易拿下。
朱元璋在攻占了广德和宁国路之后，不仅保障了应天的南大门，而且还打开了向浙东发展的道路。于是朱元璋就派他的得力亲信将领耿炳文守住长兴，吴良守江阴，汤和守常州，而他自己则亲自指挥大军向浙东进发。先后攻克了皖南诸县。朱元璋把浙江的金华县改为宁越府，后来又改为金华府，并且在这个地方安置了浙东行省。经过两年左右的时间，江浙省西部的元朝统治地区大部分被朱元璋所攻克。朱元璋江南政权的辖区扩大了。从此，这一带成了朱元璋补充兵源和军需物资的基地。