（一）下镇江，占常州
朱元璋在进占应天后，处境依然是危机四伏。元将平章定定扼守镇江，别不花、杨仲英屯驻宁国（今安徽宣城市），青衣军张明鉴据守扬州，八思尔不花驻扎徽州，石抹宜孙镇守处州，农民起义军领袖徐寿辉占据了池州，起义军领袖张士诚攻陷了平江。朱元璋担心张士诚、徐寿辉恃强将江左、浙右等地吞并，而镇江又是京师应天的后障，如果不立即拿下而被张士诚占领的话，那后果将不堪设想。于是，朱元璋迅速做出决定，派遣徐达率兵乘胜进攻江南军事重镇 镇江。
在朱元璋宣布改集庆为应天后不久，徐达即奉命统兵顺长江而下，水陆并进，东攻镇江。在队伍出征前，朱元璋还为了提升徐达在部队中的威信，导演了一场好戏。在出征这天，朱元璋把徐达等将领全部召集起来，历数他们过去放纵部下扰害百姓的种种过错，并要将他们绳之以法，下令军正使拟定其罪。直到徐达率领诸将叩头请罪，谋臣李善长也遵照朱元璋的吩咐佯装出面求情，朱元璋才同意不再追究。其实，朱元璋深知，徐达用兵一向是对老百姓秋毫无犯的。他之所以要选择在这个时候演出这场戏，正是为了整饬军纪，使徐达有足够的理由和权威约束部下将士。
至正十六年三月十六日，徐达率汤和等挥兵攻打镇江。次日，即攻陷其城，驻守镇江的元军将领平章定定战死。紧接着，徐达又分兵攻克了属镇江路管辖的金坛、丹阳等县。徐达卓越的军事才能和出色表现使朱元璋感到非常满意。三月十九日，朱元璋在镇江开设淮兴翼元帅府，任命徐达为淮兴翼统军元帅，领兵守护其地。七月初一，朱元璋自称“吴国公”，不久设置江南等处行枢密院，又晋升徐达为枢密院同佥。
就在徐达率兵攻克镇江后，张士诚也调兵遣将占领了常州，并且其常州守将还暗中派间谍诱降朱元璋的前线将士，其势力逐渐侵入镇江。徐达侦察到这些情况后，立即派人报告朱元璋，并加紧了城池防护，严阵以待。
至正十六年七月，张士诚派水师进攻镇江。徐达果断出兵抵御，在龙潭成功地击败了来犯之敌。朱元璋得知消息后，派遣使者对徐达说：“张士诚是盐贩出身，奸猾狡诈，将军要多加小心。”并命令徐达先机进取，率军直逼张士诚所占领的常州。就在徐达合兵围攻常州时，得到了张士诚派遣其弟张士德统兵数万增援常州的消息。徐达深知张士德狡而善斗，遂决定以计取之。他先在城外十八里的地方设下埋伏，又命总管王均用率铁骑为奇兵，然后亲自督师迎战张士德。战斗打响后，王均用遵命率铁骑横冲敌阵，张士德的军队阵脚大乱，被迫退却。徐达所设伏兵乘机杀出，张士德被活捉，其部下被杀被俘者数以万计。虽然打败了张士德的援军，但常州城却久攻不下。同年十一月初六，吴国公朱元璋因徐达无法攻克常州，又派精兵二万前去增援。但张士诚的常州守将为了缓解常州之围，千方百计引诱徐达军前的将士，结果新归顺的义兵元帅郑佥院率其部下七千人临阵叛变，严重破坏了徐达的围城计划。常州守军在郑佥院叛军的引导下，直捣徐达设在城南的大本营，幸亏徐达遇险不惊，率军奋起抵御，加上常遇春、廖永安、胡大海等将领闻讯后的火速支援，才解了大本营之危。随着常州城内的粮草的日益减少，张士诚的部下士气也日渐低落。至正十七年三月，徐达所部终于占领了常州城。此役后不久，徐达因功由“江南等处行枢密院同佥”升任“佥院”。
同年三月十五日，在占领常州后，徐达又乘胜夺取了位于长江出海口处的马驮沙（今江苏靖江市），成功地将镇江、常州、马驮沙三处联结起来，为吴国公朱元璋的政权中心应天府在东部构筑了一个有力的保护屏障。
（二）战宁国，破池州
至正十七年（1357年）四月中旬，徐达奉吴国公朱元璋之命率兵攻打元军盘踞的宁国路。驻守宣城的元长枪元帅谢国玺弃城出逃，但守臣别不花、杨仲英等率部闭城拒战，于是徐达下令围城。刚刚部署完毕，就有一支元兵赶来支援宣城，徐达发兵大败敌军，斩杀无数，余者四散逃跑。
可是，初战告捷的徐达在随后攻打宣城的战斗中，却遇到了意想不到的阻力。原来，宣城城市虽小，城墙却坚固异常，加之城内守军从城墙上发射和抛掷大量箭矢和石块等反击，使徐达几次攻城，都没有得手，部下死伤惨重，骁将常遇春也在交战中身中流矢负伤。吴国公朱元璋得报后，立即亲自统帅大军前往增援，并下令制造“飞车”，在飞车前编竹为屏，以遮挡矢石。准备妥当后，朱元璋命令徐达等兵分数道，同时发起猛攻，城中元军渐渐力不能支。至正十七年四月二十三日，孤军奋战的杨仲英等被迫开城投降。宣城告破后，宁国路所属的太平、旌德、南陵、泾县等也相继归入吴国公朱元璋的掌握之中。
至正十七年七月，徐达自应天率兵攻略宜兴，夺取了常熟，降服了大批张士诚的士兵。徐达兵克常熟后，距离张士诚的统治中心平江（今江苏苏州市）已经不到一百里，因此平江大震。
至正十八年正月，吴国公朱元璋亲征浙江婺州（今浙江金华一带），徐达奉命留守应天。二月，朱元璋返回应天，即派徐达水陆并进，西征陈友谅据守的皖城（今安徽潜山县北），并顺势占领池州（今安徽贵池市），大败陈友谅增援池州的部队。至正二十年（1360年）五月，陈友谅派重兵进攻池州，来势极为凶猛。而徐达早已遵照朱元璋的指示做好了迎战准备，守城的士兵在城上击鼓呐喊，而早已埋伏在九华山上的伏兵也乘势杀出，前后夹击，大败陈友谅兵，歼敌一万余人，生擒三千人。然而，在大败陈兵后，徐达和常遇春却在如何处置三千名战俘的问题上产生了严重的分歧。常遇春主张杀死全部战俘，而徐达坚决反对，并说：“现在争夺天下的战争刚刚开始，我们绝不能滥杀战俘而断绝了他们归附我们的希望。”由于二人争执不下，只好派使者请吴国公朱元璋来裁决。正如徐达所预料的一样，朱元璋也不同意杀死战俘。但是，在使者回到池州前，常遇春还是不顾徐达的劝阻，在一天夜里擅自下令将三千名战俘坑杀掉十分之九。此事传到朱元璋耳边，朱元璋对常遇春非常不满，命令徐达将剩下的三百名战俘全部释放，并对自己委派常遇春去池州与徐达共掌兵权的决定后悔不已，决定引以为戒，对身边的人说，日后凡有征战，只要徐达出马，就命他一人独掌兵权，统帅诸将。
（三）收复太平，升任相国
至正二十年闰五月，陈友谅挟持徒有虚位的农民军领袖徐寿辉，统兵攻陷了朱元璋占据的太平城。随后，他又弑杀徐寿辉，彻底掌握了蕲黄红巾军的领导权，并且暗中派人约张士诚合力攻打应天府。吴国公朱元璋知道如果陈、张二人联手，自己的处境将会极其不利，于是决定在两股敌军联手之前，主动出击，变被动为主动。主意一定，便派遣陈友谅的故旧持信前往陈军中，谎称愿意为内应，引诱陈友谅迅速来攻应天。在得知陈友谅中计后，朱元璋立即调兵遣将，布下重重陷阱，只等陈友谅上钩。
按照朱元璋的部署，徐达统兵驻扎在应天府城南门外，其他将领也各自领兵分据其他水陆要塞。十日，陈友谅率大军乘船而至，发现中计后，便屯兵龙湾，与朱元璋对峙。徐达等统领水陆官兵奋勇夹击，慌乱之中，陈友谅率领部分将士仓皇逃往安庆。徐达奉命追击陈友谅，并在采石击溃了陈友谅麾下素以能征善战著称的皂旗军，陈友谅被迫收集残兵败将，放弃太平城，落荒而逃。徐达乘势收复太平。
至正二十一年八月，朱元璋打着“吊民伐罪，纳顺招降”的旗号，率领徐达、常遇春等大将溯江而上，兴师大举讨伐陈友谅。大军所到之处，所向披靡，连克安庆、江州（今江西九江市）、洪都（今江西南昌市）等地。徐达也因在这些战斗中功劳巨大而于至正二十一年升任为“江南等处行中书省右丞”。
经过几年的艰苦努力，吴国公朱元璋不仅在应天站稳了脚跟，而且实力大为增强，形成了与张士诚、陈友谅三强并存的局面。在认真分析形势后，朱元璋决定先除掉陈友谅，后消灭张士诚。
至正二十三年（1363年）四月，陈友谅再次兴兵顺江而下，直入江西，建造高数丈的巨舰，纠集号称六十万人的大军，倾巢而出，进围洪都。朱元璋守将朱文正、邓愈、赵德胜、薛显率领全城将士殊死搏战，坚守八十五天，陈友谅军仍未能攻破城池。南昌守军浴血奋战，为朱元璋从容调兵遣将，准备与陈友谅决战赢得了宝贵的时间。
七月初六，徐达遵照朱元璋的指令，回师救援南昌。朱元璋在龙江（今江苏南京兴中门外）誓师，亲率大军二十万进击陈友谅。陈友谅听说朱元璋亲率大军到来，遂解南昌之围，东出鄱阳湖返战。这是一场关系到双方生死存亡的大决战，史称“鄱阳湖之战”。徐达作为主攻部队，率军先行，首先与陈友谅相遇于康郎山（今江西南昌康山），两军依湖对阵。陈友谅军人多势众，舰船高大，气势汹汹。徐达毫无惧色，亲率诸将冒死闯阵，其部下将士大受鼓舞，无不以一当十，奋勇冲杀。徐达一举击败陈友谅前锋，斩杀一千五百余人，缴获巨舰一艘，初战告捷。接着俞通海等乘风发射火炮，焚毁敌船二十余艘，烧死、溺死很多敌军。徐达在敌阵中奋力拼杀，连续酣战。大火从敌船上烧到徐达的战船上，他一面指挥士兵扑火，一面继续与陈军格斗，越战越勇，并指挥战船在敌阵中节节推进。双方在康郎山鏖战整整一天，湖水被血染成了红色，天空也被炮火硝烟遮蔽得暗淡昏黑。朱元璋军在徐达等勇将的率领下，殊死搏战，击退陈友谅的进攻。此战，徐达首挫敌锋，壮大全军声威，为朱元璋取得决战胜利奠定了基础。当天晚上，朱元璋为防止东线张士诚利用鄱阳湖大战乘机入寇，命令徐达撤出战斗，回守应天。徐达走后，朱元璋指挥将帅士卒继续与陈友谅在鄱阳湖上血战，终于击毙陈友谅，全歼陈军主力，取得鄱阳湖大战的胜利。
徐达回到应天后，严格训练部队，加强东线守备力量。缉查奸细，修缮城池，张士诚无缝可钻，未敢贸然进犯。后来朱元璋称赞徐达说：“我让徐达回守应天最为放心，无论遇到什么问题，他都能妥善处理。”可见朱元璋对徐达多么信任。
鄱阳湖大战后，朱元璋还师应天。徐达等率军攻克庐州，不久，奉命再返湖广前线。徐达先后率兵攻取江陵（今湖北荆州）、夷陵（今湖北宜昌）、湘潭州（今湖南湘潭）、辰州（今湖南沅陵）、衡州（今湖南衡阳）、宝庆（今湖南邵阳）、靖州（今湖南靖县）等地，彻底肃清陈友谅残余势力，占领湖湘地区。徐达在消灭陈友谅割据集团的战役中，身经数十战，建立了赫赫战功，为表彰徐达的功绩，朱元璋在至正二十四年正月称吴王后，任命徐达为左相国，地位在众将之上。
时至元至正二十五年秋，江淮流域的反元斗争形势发生了显著的变化。吴王朱元璋在铲除了陈友谅之后，已成为当时实力较为雄厚的一支力量，唯一可与之抗衡的就剩下了以平江为据点的张士诚部。
至正二十五年（1365年）十月，吴王朱元璋因张士诚屡犯其领土，决定兴兵讨伐。十四日，徐达等奉命率马步舟师水陆并进，攻取淮东、泰州等地。大军渡过长江，一举攻克泰州海安坝（今江苏海安），进围泰州。经月余血战，终于攻克泰州，擒守将严再兴等五千余人。之后，徐达又攻下通州、兴化、濠州等地。徐达在这些战斗中，师出迅捷，变化无穷，表现出卓越的军事指挥才能。
（四）攻取平江，受封国公
徐达统兵削平淮南地区，不仅达到了吴王朱元璋剪除张士诚肘翼的预期目标，而且进一步壮大了吴王政权的声威，为吴王朱元璋随后派兵消灭张士诚创造了良好的条件。至正二十六年八月初二，吴王朱元璋任命中书左相国徐达为大将军，平章常遇春为副将军，率军二十万讨伐张士诚。徐达巧用反间计，使张士诚的老巢平江完全陷入孤立。在轻取湖州（今浙江湖州市）后，徐达乘胜挥师向平江进发。为了牵制张士诚的兵力，吴王朱元璋在至正二十六年九月特地派遣部将朱文忠率兵进攻杭州，支援徐达。同年十一月二十五日，徐达从太湖西侧出兵平江城南，放火焚烧了张士诚停泊在湖中的一千余艘战船及大量物资。随后，率水陆大军围攻平江城。
为了截断平江城与外界的联系，封锁其粮饷物资供应线等，徐达对围城任务进行了周密的安排。但是，由于平江城坚固异常，张士诚亲自督守等原因，徐达围攻平江之初，成效并不显著。为了进一步孤立平江城守敌，打击张士诚的士气，徐达又分兵攻取了平江附近的太仓等地，张士诚部下驻守崇明（今上海崇明县）、嘉定（今上海嘉定区）、松江（今上海松江区）等地的守臣也纷纷归降。就在此时，驻守无锡的张士诚麾下将军莫天祐派出的联系无锡与平江的奸细被徐达抓获。徐达不但没有把他当做奸细关起来或处以死刑，反而亲自帮他解开了绳索，和他推心置腹地交谈起来。徐达的诚意终于收到了效果，这名使者答应真心降服。徐达让他继续充当莫天祐和张士诚之间的信使，进一步掌握了张士诚的兵力虚实，从而也使得围攻平江城的计划更加完备。元至正二十七年八月，在徐达兵围平江城长达九个月后，张士诚与外界的一切联系几乎全被切断，内无粮草，外无援兵，几次突围又都惨遭失败，已经到了山穷水尽的地步。而张士诚对徐达的劝降又心怀狐疑，不肯俯首就擒，徐达于是决定对平江城发起总攻。
九月初八，徐达亲自督率将士攻克葑门，同时常遇春也率部攻破了阊门，直逼平江内城之下。张士诚坐镇军门，派遣枢密唐杰登城指挥战斗，唐杰深知不是徐达的对手，平江城势必不保，率先举兵投降，其他将士见状也相继投降。至傍晚时分，徐达部下各路将士已成功地突破了敌军的防守，进入平江城内。张士诚兀自率兵巷战，但其手下将士已无斗志，纷纷投降。张士诚见大势已去，纵火焚死其妻儿，自己上吊自杀，被其部将解救，徐达将其押送应天。破城之日，徐达严格约束部下，立下军令：“掠民财者死，毁民居者死，离营二十里者死！”率军入城，纪律严明，秋毫无犯，很受百姓的欢迎。就在平江城破、张士诚被俘后，原张士诚部下骁将、驻守无锡的莫天祐于元至正二十七年九月十四日率部投降。同年九月二十八日，徐达因功勋卓著封信国公，是此次封赏的最高爵位。