与刘基同时接受朱元璋聘请的还有宋濂、章溢、叶琛三人，此三人加上刘基号称“浙东四贤”。其他三人已经先行抵达金华，专候刘基到来相聚，然后再北上赴应天。四人会齐后，由朱元璋的部将胡大海亲自护送去应天。四人到达应天后，受到最隆重的接待。随后，朱元璋便亲自登门求教天下大势。相见之后，朱元璋提出自己的意图，以天下事相问，宋濂等三人依次谈了自己的看法。刘基最后陈述了他的时务十八策，朱元璋听罢大喜，赞叹不已，认为自己是汉高祖得到张良，刘备遇到诸葛亮。此后，朱元璋便把刘基当做自己的第一谋士，而刘基也倾心辅佐。
刘基来到应天之后，首先要做的就是为朱元璋规划他夺取天下的征伐大计。据说有一天，刘基去见朱元璋，正赶上他在吃饭，朱元璋便要刘基以吃饭的筷子为题赋诗一首。刘基才思敏捷，随即口占两句“一对湘江玉并春，二妃曾洒泪斑痕”。朱元璋听罢，面露不屑之意，认为此诗秀才气太重，紧接着刘基又吟两句“汉家四百年天下，尽在留侯一借间”。朱元璋听罢大喜，留侯就是汉朝开国第一谋士张良，而朱元璋与汉高祖刘邦一样，都是起自布衣的农民起义者，朱元璋又处处与汉高祖相比，如今他得到了自己的张良，怎么能不高兴？从此他对刘基大加信用，而刘基也确实起到了运筹帷幄之中、决胜千里之外的军师的作用。
成为朱元璋的谋士之后，刘基为他规划了以后发展的蓝图。刘基认为，要夺取天下，必须先剪灭江南群雄，方可北上灭元。元朝各路官军个个心怀鬼胎，只知道保存自己的实力，不会南下进攻。而江南群雄中，他主张先灭势力最强的陈友谅，后取张士诚，再次是方国珍，福建和广东的割据势力可以传檄而定。他劝说朱元璋，陈友谅野心勃勃，且地广兵强，然而此人挟持君上，专权欺主，而且国内民心不附，将士离心，虽然外表强盛，但实际很虚弱。这就好比要擒获猛兽，就要先擒住最凶猛的，其他的就会胆战心惊，也就很容易擒获了。而且灭掉陈友谅可以得到大片土地，又可以壮大自己的实力，为北上攻元打下基础。等到攻灭陈友谅之后，再取张士诚就易如反掌。张士诚这个人没有远大的志向，在进攻陈友谅的过程中，他只会据地自保，而不会发兵与陈友谅夹攻，这样就可以很轻松地灭掉张士诚。陈友谅和张士诚既平，其余之人不过数月就可以拿下。南方平定后，再挥师北上，攻取大都，席卷中原，此后出兵川蜀，则天下平定，帝业可成。刘基的一番论述确实高瞻远瞩，高屋建瓴，令朱元璋茅塞顿开。他决定采纳刘基的计策，先攻灭陈友谅，再取张士诚。这样，朱元璋在全面胜利的道路上迈出了举足轻重的一步。
而此时的陈友谅，势力也正迅速壮大。他既有问鼎天下的实力，也有逐鹿中原的野心。至正十八年，陈友谅连续占领安庆、洪都、抚州、吉安、建昌、赣州，并且分兵出福建，取得邵武等地，声势大振。至正十九年，陈友谅挟其主天完皇帝徐寿辉至江州，骄横无比，自称汉王，置官署，封群臣，诛赏任自为之，丝毫不把自己的皇帝放在眼里。朱元璋要想吞并天下，就必然与他发生冲突。两雄相争，难免一战，且彼此必欲置对方于死地而后快。至正二十年五月，陈友谅因池州战败，亲率大军进攻朱元璋。汉军进攻应天门户——太平。因寡不敌众，守将花云力战不屈而死。著名的京剧曲目《战太平》便由此而来。陈友谅占领太平，前锋直抵采石矶，此时他认为取应天如探囊取物，便想自立为帝，完成他的皇帝梦。有此想法，他便欲弑主。经过一番准备后，陈友谅以奏事为名面见天完皇帝徐寿辉，暗命卫士以铁锤猛击徐寿辉头部，然后以皇帝暴疾而崩布告军中。杀掉皇帝后，陈友谅消除了称帝的最后障碍，便于采石矶的五通庙称帝自立，行即位礼，国号汉，以邹普胜为太师，张必先为丞相，张定边为太尉，并屯重兵于采石，遣使约张士诚夹攻朱元璋，一时应天大震。
应天城内的朱元璋闻听此信，确实大出意外，陈友谅大兵已至采石，兵锋直指应天。朱元璋问计于文武，文官武将各执一词，有人主张投降以保全实力，有人主张退保钟山等待寻求有利战机，有人提出决一死战。这时只有刚刚出山的刘基默不作声，静静地听着诸将的议论。朱元璋听了诸将的意见，一时也拿不定主意，见刘基一直沉默不语，便请刘基入内室问计。刘基来到内室后，斩钉截铁地对朱元璋说：“先斩杀主张投降和退保钟山的人，才可以破敌。”朱元璋立即向他询问破敌之策。刘基徐徐说道：“陈友谅杀害他的君主，自己篡权称帝，骄横无比，他内心一直没有忘记吞并我们。如今他气势汹汹，率大军占领太平，顺江东下，这是在向我们示威，逼迫我们退让。我们坚决不能让他得逞，只有抵抗到底这一条路。”然后刘基接着说：“陈友谅虽然兵将强悍，但是他们千里行军来进犯我们，将士必然疲惫不堪，这是他的一个不利条件；陈友谅杀害自己的皇帝来进犯我们，这是不义之举，不得民心，这又是一个不利条件。而我们后发制人，以逸待劳，等他的大军深入后，我们布置伏兵进攻，必胜无疑。这一场战役对我们意义重大，不可轻视啊。”朱元璋本来就不满诸将的意见，听了刘基的话，正中下怀，更坚定了他抗击的决心。于是他采纳刘基的计策调兵遣将，做好了迎战准备。他急调徐达和常遇春立即自池州返回应天听候调遣；驰谕胡大海率军进攻信州，以此来牵制陈友谅的后路；又授计康茂才，以诈降引诱陈友谅向应天进攻；冯国胜等率五翼军埋伏于石灰山（即幕府山）一侧；徐达回来后伏兵于南门外；杨璟驻兵于大胜港；张德胜与朱虎率水师出龙江关外，策应诸路；朱元璋本人亲自在卢龙山督战。并约定信号，发现敌军举红旗，举黄旗时则伏兵齐出，四面进攻。一切准备就绪，单等陈友谅进攻了。
果然，陈友谅在称帝之后便迫不及待地要夺下应天，一统江南。此时他的旧相识康茂才约定作内应攻破应天，陈友谅闻听大喜，相信了康茂才的话。他亲率大军自采石矶来取应天。他的大军来到应天城外时，没有发现自己的内应，心里怀疑中计，但自恃兵力强盛，便继续前进，慢慢地进入了朱元璋的埋伏圈。此时，朱元璋军中已经举起红旗，单等陈友谅完全进入埋伏圈。陈友谅大军果然进入伏兵之处，朱元璋军中黄旗举起，伏兵四出。此时，大江之中，朱元璋的水师也出来助战，陈友谅顾此失彼，面对朱元璋的埋伏束手无策。此时，原约定来援的陈友谅的五弟也败于龙江。无奈之下，陈友谅只得弃大军，自己乘小船逃回江州老巢。采石一战，朱元璋大获全胜，稳定了应天根据地。采石大战，可以说是刘基归顺朱元璋之后的第一次亮相，无论是战前力主迎敌，还是战中为朱元璋出谋划策，都显示了刘基的非凡魄力和智慧以及杰出的军事指挥才能。这次战役的大获全胜巩固了朱元璋的应天根据地，这对朱元璋日后的发展至关重要。因此，刘基日益受到朱元璋的赏识和信任，在军中的威望也日益提高。战斗结束后，朱元璋要用克敌之赏来奖赏刘基，刘基却坚辞不受，这更赢得了诸将的尊敬与信任。
采石之战后，至正二十一年（1361年），朱元璋执行刘基的征伐策略，亲自率领徐达和常遇春等大将，在刘基的陪同下，进攻陈友谅。在刘基的谋划下，大军一路夺安庆，取江州，直逼洪都。就在攻取洪都的关键时刻，刘基的老母病故。依照封建礼法，父母身故，做儿子的应该回家守孝三年，以尽人子之道。此时的刘基听到这个消息，可以说是悲痛万分，老母身故，抱恨终天，恨不得立即回家为母亲守制。但是，洪都城旦夕可下，朱元璋又离不开他。刚刚出山，便要离去，他的心中确实矛盾万分，去还是留是个很难的抉择。朱元璋似乎明白刘基的心思，在这进攻洪都的关键时刻，他的确不愿刘基离开，一旦刘基离去，这战争如何进行，战争的胜负也难以预料。朱元璋决定亲自写慰书给刘基，文章写得恳切动人，刘基阅罢，深为感动，他决定留在军中。终于，在刘基的帮助下，大军夺得汉国的门户洪都。夺下洪都后，朱元璋在著名的滕王阁大摆庆功宴，诸将皆开怀畅饮，以庆祝胜利。只有刘基一人内心悲痛万分，老母归天，自己却无法回家为母守孝，实在是不孝之极。在这种情况下，刘基提出要回家葬母。此时洪都城已经攻下，形势有利于朱元璋，他提出这个要求，朱元璋便答应了他，批准他回家葬母。
大军凯旋之日，刘基回家为母奔丧。葬母之后，刘基依例守制三年。此时他虽然身在青田，却心在应天，时时不忘他为朱元璋设计的征伐大计。而朱元璋在刘基走后，就好像没了主心骨一样，凡事都不敢果断地做出决定，深怕自己的决策不妥，以致坏了大事。由此不难看出，刘基对于朱元璋是多么重要。刘基也的确称得上是朱元璋军中运筹帷幄、举足轻重的人物，是朱元璋的股肱重臣。在刘基守制的一年多里，朱元璋一再写信向刘基询问军国大计，刘基则逐条分析，给出答复，总使朱元璋感到满意。刘基确实是一位杰出的战术家，他运筹帷幄，几乎每谋必中，难怪诸将对他倍加叹服，朱元璋更是倚如腹心，几乎是言听计从。此时朱元璋更感到刘基不在的空虚，虽然可以用书信求教军国大事，但是毕竟路途遥远，缓不济急，对一些重要军情不能够及时拿出对策，这给朱元璋带来很大不便，因此他派人敦请刘基早回应天。
至正二十二年（1362年），朱元璋又一次派人送信给刘基，信中表达了朱元璋对刘基的期盼，希望他早日返回应天。信中每一个字、每句话，都反映了朱元璋对刘基的信任与依赖，反映了朱元璋因为刘基不在身边，对军政大事拿不定主意的那种焦急心情。刘基终于被朱元璋的诚意所打动，为了不辜负朱元璋的一片盛情，刘基提前结束守制，返回应天。刘基回到应天以后，朱元璋更加信任他，继续他征伐四方、一统海内的大业。
朱元璋在此时虽然占据应天，但是名义上仍然是龙凤政权的属臣。此时龙凤皇帝韩林儿已经在元军的进攻下失去东都汴梁（今开封），退保安丰，形势岌岌可危。而这个时候龙凤朝廷的丞相、农民起义军领袖刘福通也已遇害，元朝大军包围安丰。小明王韩林儿无计可施，日夜啼哭，只得派人赴应天向朱元璋求救。朱元璋作为小明王所封的江南行省平章事、吴国公，有义不容辞的救护责任，再说这样也可以获得救主的美名。在这种思想支配下，朱元璋拒绝了刘基的建议，亲率大军迎小明王于滁州，供奉甚厚。而此时陈友谅一刻也没有忘记采石之战的耻辱。为了一雪前耻，夺回洪都，陈友谅趁朱元璋救韩林儿之际，亲率大军来攻洪都。这就引发了吴汉双方决定性的战役——鄱阳湖大战。
至正二十三年（1363年），陈友谅起倾国之兵来取洪都。陈友谅的水师，有巨舰百余艘，号称“楼船”，大的可容三千人，小的也可容两千人。陈友谅自以为必胜，载着百官家小，空国而来，大军号称六十万，于当年的四月二十三日直抵洪都城下，拉开了这场大战的序幕。洪都守将朱文正是朱元璋的亲侄子，一面率军奋力抵抗，一面派人赴应天求救。