六月十五日（8月5日），法国远东舰队的三艘军舰突然袭击台湾基隆。督办台湾防务大臣刘铭传指挥清军顽强抵抗，打退了侵略者的进犯，取得基隆保卫战的胜利。
然而，清廷却因法军侵略基隆而又在动摇不定。清廷乞求列强出面调停，却因“英、德与法仇，不肯过问”而毫无结果。李鸿章乘机怂恿清廷接受法国提出的赔款议和条件，甚至以“战后亦必赔偿，为数更巨”来吓唬清廷。慈禧太后六神无主，急忙召见奕哭诉：“不愿再经咸丰故事，但亦不愿大清江山由我而失，由我示弱。”奕回答说：“可以打。”慈禧太后也说：“打就打到底。”接着，慈禧太后召开了由御前大臣、军机大臣、总理衙门大臣及六部九卿参加的御前会议。她说：“和亦后悔，不和亦后悔。和就示弱，不和会割地赔款而且损伤不少，或许引起内乱而且亦赔不起。”显然，慈禧太后仍在和与战之间徘徊。她讲了这番话后，会场一片寂静，许久无人答言。猛然间左宗棠站出来疾呼道：“中国不能永远屈服于洋人，与其赔款，不如拿赔款做战费。”慈禧太后听过此言，遂下令罢朝，含泪称是。至此，清廷才下了主战的决心。
法国悍然进攻基隆，在中国东南沿海挑起战端。法军受挫于基隆后，法国政府决定扩大侵华战争，通过驻华代理公使谢满禄于六月二十九日向清政府提出赔款8000万法郎的新条件，并以最后通牒的形式限48小时内答复，否则下旗离京，由孤拔立即采取军事行动。清政府拒绝了法国的无理要求。七月初一日，谢满禄果然下旗离开北京。初三日（8月23日），孤拔指挥法国舰队向停泊在福州马尾军港的福建海军发起突然袭击。福建海军的军舰还没有来得及起锚，就被法舰的一排重炮击沉两艘，重伤四艘。福建海军仓促应战，十分被动，广大爱国官兵仍奋勇还击，但已无法挽回败局。经短短一个多小时的海战，福建海军的11艘战舰均为法舰击沉、击伤，官兵伤亡700余人，福建海军几乎全军覆没。第二天，法军又向位于马江北岸的福州船政局开炮，击毁许多厂房和厂内正在制造的舰船。由于船政局作了积极布防，法军攻占船厂的计划未能得逞。
马尾之战爆发后的第三天，即七月初六日（8月26日），清廷下诏对法宣战，谴责法国“专行诡计，反复无常，先启兵端”。同时，根据“应以进兵越南，规复北圻，俾彼族不敢悉众内犯为制敌要策”的指导思想，确定了沿海防御，陆路反攻，“牵敌以战越为上策”的战略方针。法国则决定以海军攻占台湾，“据地为质，挟中国议约”，同时命陆军向驻守谅山的清军发动进攻，占领越南全境，然后由陆路将战火直接烧至中国本土。此时，左宗棠深为福建沿海的严重局势焦急不安。
七月十五日（9月4日），他亲赴醇王府面见奕譞，请求统兵出征。奕譞在记述与左谈话的情形中说：“左相响晦来谈，仍是伏波据案之慨，其志甚坚，其行甚急。已嘱其少安毋躁，十八日代为请旨，始去。”七月十八日（9月7日），清廷任命左宗棠为钦差大臣，督办福建军务。
此前，左宗棠曾多次要求奔赴前线同法国侵略者决战，但均没有得到清廷的允准。是刻，他的愿望终于实现，其心情可以说是万分激动的。他以72岁的高龄，不顾体多有病，毅然投身到抗法前线。
七月二十五日（9月14日），左宗棠在起程前特地向翁同龢辞别。他在翁同龢处“坐良久”，“其言衷于理而气特壮”，给翁留下深刻的印象，两人“怅惘而别”。
9月中旬，法侵华海军司令孤拔率军舰五艘，副司令利土比率军舰三艘，分别进攻台湾的基隆和淡水，企图在两处得手后合击台北。10月1日，法军在猛烈的舰炮掩护下，攻占基隆。10月2日，进攻淡水的法军遭到惨败。8日，得到增援的法军在强大炮火支持下强行登陆，再次猛攻淡水。刘铭传指挥清军、民团等诱敌陆战，设伏截击，经过几个小时的拉锯战，法军死伤数十人，狼狈逃回军舰，慌乱中又有数十人坠海溺死。法军在淡水失败后，将兵力收缩至基隆，并于10月下旬封锁台湾，企图孤立台湾守军。
对于左宗棠勇于赴汤蹈火的果敢行为，舆论界曾作出如此评价：“左侯相以闽事吃紧，慷慨请行，所谓一息尚存，此志不容少懈，方之古名臣，曾不多让！诚哉斯言！”
不败而败满腔愤
法军在马尾海战后，气焰更加嚣张，在台湾和北圻两个战场陆续发动了大规模进攻。1884年8月10日，法国军舰频繁向台湾基隆、沪尾等发炮进攻，都被督办台湾军务大臣刘铭传率台湾军民英勇击退，粉碎了敌军侵占台北的计划。
1885年，孤拔率军舰多次进犯镇海，清军在浙江提督欧阳利见的指挥下沉着应战，击沉、击伤法军舢板及舰只各两艘。孤拔本人中弹受伤，被迫于3月7日南撤，转而攻占澎湖岛。不久，孤拔死于澎湖。
在法军封锁台湾、侵扰浙江镇海之时，清军也在北圻向法军发起反击。
在西线战场上，自1884年10月至1885年3月，中法军队在宣光反复争夺。清军与黑旗军紧密配合，虽取得歼敌千人的战绩，但因法军不断得到增援，始终未能攻克宣光，被迫撤出战斗，准备新的反攻。在东线战场上，清军出谅山反攻船头、郎甲一线。1885年1月底，法军7000余人分别由波里也和尼格里指挥，由河内出发，向清军进行反扑，不久攻占谷松。2月13日，王德榜将军火辎重移屯禄州后，全军疾趋谅山。23日，潘鼎新部在镇南关不战而溃，潘鼎新仓皇逃窜，“不知所往”，所部军无主将，大掠龙州。广西边境地区兵慌马乱，岌岌不可终日。2月23日，法军攻占中越边境重镇——镇南关。后因担心战线过长，给养困难，炸毁了镇南关城墙及附近的清军防御工事，退回越南境内的文渊（今同登）、谅山，并在关前废墟上竖起一块木牌，狂妄地宣称“广西的门户已不再存在了”。这时，称疾在乡的老将冯子材受命帮办广西关外军务，率部开赴前线，收编溃散清军，整饬军纪，被前线各路清军将领推举为前敌总指挥。当地军民信心倍增，在法军竖立木牌的地方也竖立起一块木牌，上面针锋相对地写着“我们将用法国人的头颅重建我们的门户”。
潘鼎新被革职，两广总督张之洞奏准请出年近70的爱国老将冯子材帮办军务，任主帅。
冯子材（1818—1903），晚清抗法名将，字南干，号萃亭，汉族，广西钦州人。咸丰当政期间从向荣、张国梁镇压太平军，同治年间累擢广西提督，中法战起，起用为广西关外军务帮办，大败法军于镇南关，攻克文渊、谅山，重创法军司令尼格里，授云南提督。甲午战争期间奉调驻守镇江，官终贵州提督。治军四十余年，寒素如故。卒谥勇毅。
冯子材率军挺进关内十里的关前隘，筑垒掘壕固守，与坚守山隘的王德榜互为联系。3月23日，法军猛扑关前隘，冯军连失三垒，形势危迫。以后，法军又连次猛犯，冯军再失二垒。就在这关键时刻，王德榜挥师出击，分兵为二，以一遥作声援为正兵，另“以各分统挑选精锐从山僻绝径分支夺险为奇兵，从甫谷抄出，攻其无备，将敌后劲歼献尽净”。所有法军囤积献军火，为王德榜悉数缴获。进犯关前隘的法军发现军火被截，后路被切断，士气涣散，军心动摇。法军将领企图以进攻关前隘的胜利来稳住军心，扳回败局。
经过实地勘察，冯子材选定镇南关中国内侧十里处的关前隘为诱敌聚歼的战场。这里东西两面高山夹峙，中间只有一条宽约2米的道。冯子材指挥军民在此用土石修建起一条长三里、高七尺、底厚一丈，连接东西两岭的长墙，墙外开挖宽约四尺的深沟，切断关道。同时在东西两岭赶筑堡垒群，安设炮位，控制制高点，屏护长墙主阵地。在兵力部署上，冯子材率军居中正面迎敌，命王德榜率军驻守镇南关东北30里处的油隘，准备伺机阻击法军的增援部队，切断其军事补给线。另外，冯子材还在长墙主阵地后面半里、四里及纵深地区配置了多重预备梯队，使清军的防御较为坚强，处于进可攻、退可守的有利地位。
3月21日夜，冯子材率军突袭盘踞文渊的法军，引诱法军前线指挥尼格里来攻。23日凌晨，尼格里指挥法军2000余名和三个炮兵连，分兵两路进犯清军长墙主阵地和东岭炮台。两军展开激战。争夺东岭炮台的战斗尤为激烈，双方势均力敌，死伤相当。入夜时分，战斗渐息。清军连夜赶修工事，补充给养弹药。
24日清晨，法军利用天降大雾的有利时机，在猛烈炮火掩护下兵分三路，再次发动猛攻。“药烟弥漫，至不辨旗帜，弹积阵前逾寸。”冯子材“以帕裹首，赤足草鞋，大呼一声”，与各军将领商定“有退者，无论何将遇何军，皆诛之”，誓与阵地共存亡。当法军接近长墙主阵地时，冯子材身先士卒，“持矛大呼越出”，率自己的两个儿子首先冲入敌阵。其他官兵见状，人人感奋，纷纷冲向法军，与之展开近战肉搏。又经过“七上七下”的血搏，夺回了失去的炮台，用重炮轰击逃敌。这时，清军的后援部队源源不断地赶到，逐渐遏制住法军的猖狂攻势，并转入反攻。法军因增援部队和弹药给养遭到清军截击，得不到及时补充，陷入困境，伤亡惨重。尼格里见大势已去，率领残部狼狈溃逃。冯子材率军乘胜追击，直至深夜，暂且收兵。此次战役击毙法军精锐1000余人，缴获枪支弹药不计其数。法国侵略者战后不得不承认，自他们入侵中国以来，“从未受此大创”。
25日，冯子材发起总攻，各路将士勇猛冲杀，收复所失营垒，法军全线崩溃，残兵败将狼狈逃窜。冯、王等抓紧战机，乘胜追击。
3月26日占文渊，29日克谅山，重伤尼格里。法军将38门大炮和13万银元弃入淇江，狼狈而逃。27日克复文渊。这天，王德榜军踏平敌营垒三座，直捣敌军驱驴老巢。29日，与苏元春军联合作战，攻占驱驴。是夜，会同各军攻占谅山。谷松敌军望风披靡，“我军追击至坚老”，“越地义民闻风响应，越官黄廷经纠北宁等处义民立忠义五大团，建冯军旗号，自愿挑浆饭、做向导，随军助剿，或分道进攻”。这就是威震中外的镇南关大捷，共歼敌1000多人，扭转了整个中法战局。至此，越南战场的形势全然改观。
法军在镇南关—谅山惨败的消息传到本国后，引起了法国统治集团的极大震动。他们把这一失败比做1815年拿破仑在滑铁卢的失败，担心法国在远东建立的殖民统治会因此而动摇。法国人民纷纷走上街头示威，高呼打倒茹费理的口号，“几使巴黎闹成革命”。法国的反对党也猛烈抨击茹费理“是国家的蟊贼”。3月31日夜，茹费理内阁倒台，法国在政治、军事诸方面陷入一片混乱之中。
冯子材联合各路清军将领，准备分兵南下。河内、太原、海阳甚至西贡地区的越南人民，也纷纷酝酿反法起义，积极准备策应清军乘胜追击，将法军全部赶出越南。但是清政府却突然于4月7日下达了“乘胜即收”、停战撤兵的命令。
清政府之所以在中国取得重大军事胜利的情况下，决意对法议和，有着客观与主观两方面的原因。从客观上看，英美等国担心，中国一旦取得对法战争的全面胜利，就会进一步增强中国人民反对外国侵略者的信心，清政府也可能不再如以前那样驯服了，从而危及自己在华的整个侵略权益。英国外交大臣就曾说：“中国的任何胜利，都会一般地对欧洲人产生严重后果。”
因此，它们极力施加压力，迫使清政府尽快对法妥协。俄国和日本则企图利用中法战争浑水摸鱼。俄国因强占中国伊犁的阴谋未能得逞，时刻都在伺机报复。1884年9月，即法国突袭马尾港的福建水师之后不久，俄国报纸声称：“中国伊犁背约，将来法攻中国，俄亦欲夺疆土。”此时的日本，因策动朝鲜的亲日派开化党发动“甲申政变”遭到失败，也不断鼓吹武力侵朝，企图将中国拖入战争的旋涡。
1885年初，正当中法军队在北圻激战之时，日本代表伊藤博文来华与李鸿章谈判有关“甲申政变”善后事宜，竟暗中与法国驻华公使巴德诺勾勾搭搭。对此，清政府疑虑重重，以为“日人意存叵测，现又起衅端，难保不因中法之事伺机寻衅”，极为担心俄、日两国与法国南北呼应，乘机在北方挑起侵华战争。此外，当时台湾仍受到法军的严密封锁，形势严峻。而越南当局在中法战争中首鼠两端，断绝了同清廷的宗藩关系，也使清廷失去了继续援越抗法的信心。故清政府权衡利弊后，采取了舍越南而保台湾的方针，即以停战撤兵换取法国同意停止围困台湾。但是，促成清政府对法妥协的最根本原因，还在于其本身的腐朽与无能。清政府不相信中国在军事上能够取得对法战争的最后胜利，担心法国会“因愤添兵”，不断扩大战争，兵连祸结。正因如此，清政府自1884年8月26日对法宣战后，实际上从未停止过谋求对法妥协，中法之间也一直进行着秘密谈判。