（一）前秦百万军队，强敌压境
383年3月，苻坚雄心勃勃地发号施令，整顿军队，开始准备南伐。同年8月，苻坚派苻融、慕容垂率领骑兵二十五万为前锋，封姚苌为龙骧将军率领益州和凉州的人马，自己则亲自率领戎兵六十多万、骑兵二十七万，号称百万大军，浩浩荡荡向东南方向出发。
前秦兵马旗鼓相望，前后绵延数千里。9月，苻融率领的先锋兵马已经到达颍口（今安徽颍上县），苻坚率领的兵马才刚刚到达项城（今河南周口市境内），凉州之兵则刚到达咸阳（今陕西咸阳）更夸张的是，蜀汉之兵则才刚刚顺流而下。前秦派遣的攻打东晋的人马，仅仅在行进的军队，就前后绵延现在的陕西、河南、湖北、安徽几省，规模和声势之大，在历史上也是罕见的。
（二）东晋团结一致，众志成城
在一统北方的战争中所向披靡的苻坚被胜利冲昏了头脑，他大大低估了东晋的实力。这时的司马氏已经偏安于
南方将近半个世纪，现在的东晋朝内，心怀不轨的桓温已经死去多年，政权也已经相当稳定。东晋内部虽然还有一些勾心斗角，但总体上呈现平静祥和的局面。
秦军出兵的消息很快传到了东晋的国都建康。在这个关系东晋生死存亡的紧急关头，东晋统治集团内部以大局为重，迅速停止内部争斗，开始商量对策。大家议论纷纷、人心惶惶，都在讨论这件事。有人主张：“前秦简直欺人太甚！居然毫无理由地起兵攻打我国，现在大敌当前，古人云，得道多助，失道寡助，我们团结一心，奋勇抗击，必定能够打败前秦的不义进攻！”
但也有一些怯懦的人并不认同：“现在是敌强我弱，敌人带来的可是百万人马，我国现在能迎战的兵士只有不足二十万，这样以卵击石的战争，结果已经可以想象。这样的局势，如果我们奋起抗击，只会给我国带来没有意义的伤亡。还是及早投降吧，也可以避免不必要的伤亡。”
现在的东晋，在位的是孝武帝，辅佐朝政的是丞相谢安。谢安在东晋很有威望，人们都将他和东晋初年的名相王导相提并论。文武双全、足智多谋的谢安见朝中大臣为了是战是降而争论得面红耳赤，便道出自己的观点：“以少胜多、以弱胜强的战役，历史上也是常见的，只要我们君臣一心，团结一致，以东晋大局为重，一定可以打败前秦的无理挑衅。”
接下来，孝武帝召谢安来商量抗秦计策。谢安举贤不避亲，把自己的弟弟谢石和侄子谢玄推荐给孝武帝。孝武帝便任命谢石为征讨大都督，封谢玄为将军，一切军事大事听凭谢安处理。
谢安对手下的大将进行了分工：征讨大都督谢石指挥全军；桓冲镇守上游，谢玄担任先锋，掌管江北的各路人马，带领八万兵马阻击秦军，并镇守广陵（今江苏扬州）；胡彬带领水兵五千名，去淝水河边的寿阳城帮助当地的官兵抵抗苻坚；谢安自己则亲自担任征讨大都督。
谢玄也是个军事人才，他到了广陵以后，就招兵买马，扩大武装。当时有一批从北方逃难到东晋来的人，纷纷应征。他们中间有个彭城人叫刘牢之，从小练得一身武艺，打仗特别勇猛。谢玄让他担任参军，派他带领一支精锐的人马。这支人马经过谢玄和刘牢之的严格训练，成为百战百胜的军队，在解三阿之围中，击败了前秦的东路进攻，表现出极强的战斗力。由于这支军队经常驻扎在京口（今江苏镇江市），京口又称“北府”，所以也把它叫做“北府兵”。
然而，以八万多的兵力与百万秦军相对抗，正如主张投降的大臣所说，确实是以卵击石的冒险。谢玄手下的北府兵虽然勇猛，但是前秦的兵力是东晋的十倍，谢玄心里到底有点紧张。出发之前，谢玄特地到谢安家去告别，请示一下这场仗怎么打。哪儿知道谢安听了像没事一样，轻描淡写地回答说：“我已经有安排了。”谢玄心想，谢安也许还会嘱咐些什么话。等了半天，谢安还是没开腔。
谢玄回到家里，心里总不踏实。隔了一天，又请他的朋友张玄去看谢安，托他向谢安探问一下。
谢安一见到张玄，马上邀请他到山里一座别墅去。到了那里，已有许多名士先到了。张玄想问，也没有机会。谢安请张玄陪他一起下围棋，还跟张玄开玩笑说要拿这座别墅做赌注比个输赢。张玄是个下棋好手，平常跟谢安下棋，他总是赢的。谢安本来棋艺不高，平日远非张玄的对手，但此次开局后，谢安镇定自若，得心应手；张玄却因心系前敌，很快就败下阵来。谢安赢了棋，意兴更浓，又拉着张玄东游西逛，直到月上东山，才兴尽而归。
当夜，月上中天、万籁俱静的时候，谢安突然把谢石、谢玄等将领全部召集到自己家里，把每个人的任务一件件交代得很清楚，一直到东方破晓才算完事。大家看到谢安这样镇定自若，也增强了信心，高高兴兴地回到军营去了。
当时，镇守荆州的桓冲听到形势危急，专门拨出三千精兵到建康来保卫京城。谢安对派来的将士说：“我这儿已经安排好了。你们还是回去加强西面的防守吧！”将士回到荆州把情况告诉桓冲，桓冲很担心。他对将士说：“谢公的气度确实叫人钦佩，但是不懂得打仗。眼看敌人就要到了，他还那样悠闲自在。兵力那么少，又派一些没经验的年轻人去指挥。我看我们准要遭难了。”
原来，谢安的镇定是刻意表现给将士们看的。看到大敌当前人心惶惶，为了稳定人心，不使将士因为惊慌先乱了自己的阵脚，从而失去斗志，谢安才每天装作若无其事的样子，游山玩水。实际上，在游山玩水中，谢安却在暗中观察敌人的一举一动。如何抗秦，谢安早已胸有成竹。
（三）前秦攻城略地，无往不利
前秦苻融率领的先锋部队，日夜行军，仅仅用了一个月的时间就来到了淮河北岸。
这一天，苻融率领的前秦先锋部队马上就要到达东晋的寿阳城（今安徽寿县），苻融正要下令自己的先行部队先在寿阳城外安营扎寨、暂不攻城，等大部赶到时再开始攻占寿阳。忽然接到兵士来报。原来，求胜心切的苻坚已经等不及大部队到齐，命令苻融的军队先行抢占寿阳。苻融接到命令，传令下去：“继续行军，到寿阳城外再安营扎寨，明日开始攻城。”
东晋方面将仅有的兵马安排在沿江和一些重镇，并没有多少兵马来守卫寿阳城；另外，晋军也没有料到秦军会这么早开始攻城，且奉命率领五千兵马前来守卫寿阳的胡彬还在行军途中。就这样，公元383年十月十八日，秦军并没有花费多大的力气，就轻而易举占领了寿阳，并俘虏晋军守将徐元喜。与此同时，秦军慕容垂率领的兵马也攻占了郧城（今湖北郧县）。这么容易就攻下寿阳城，苻融大喜，传书信给苻坚：寿阳城已被攻下，东晋将士守卫虚弱，人马柔弱无力，不堪我军一击。苻坚闻讯非常高兴。
东晋大将胡彬，本来奉命率领水军前来援助寿阳官兵，却在前往寿阳的行军路途中听到寿阳失守的消息。胡彬无奈只好退守硖石（今安徽凤台县西南），等待与谢石、谢玄的大军会合后再做定夺。
苻坚听说东晋守卫疲软无力，而且寿阳城又攻打得这么顺利，便传令，命苻融一鼓作气，继续攻打硖石。
苻融又率军开始从正面攻打硖石，并命令部将梁成率领先头部队五万人从后方进攻洛涧（今安徽寿县西北），扎下许多水寨，并在淮水中设置障碍，这样既截断了淮河交通，阻断了胡彬的退路，又将援军谢石、谢玄带领的八万晋军阻挡在距离洛涧二十五里处不能前行。
胡彬率领的兵马，被困守在硖石，进退不得，军粮一天天少下去，情况十分危急，便写信向谢石告急，请求支援。
现在胡彬的军队四周都是秦军的部队，信使要通往晋军大营，就必须穿过秦军的包围。可是事不凑巧，送信的晋兵在偷越秦军阵地的时候，被秦兵捉住。这封告急信就落在了苻融手里，苻融喜出望外，立刻写信派快马到项城将晋军兵少，粮草缺乏的情况告诉苻坚，并建议苻坚迅速起兵，以防晋军逃遁。
苻坚接连得到秦军前锋的捷报，收到这封信，更加骄傲起来。便把大军留在项城，迫不及待地亲自率领八千名骑兵火速赶往寿阳，恨不得一口气把晋军吞掉。