1885年1月，在中国海关总税务司赫德的插手干预下，清政府授权中国海关总税务司驻伦敦办事处的英国人金登干为中国代表，同法国外交部进行秘密谈判议和。3月25日，中法谈判已进入最后阶段，中国基本上接受了法国方面提出的侵略要求。这时，突然传来镇南关大捷的消息，法国政府极担心中国将在军事上乘胜反攻，在外交上据理力争，要求修改甚至废止已基本完成的草约。但是，腐朽昏聩的清朝统治者却将中国军队取得的军事胜利，当做加速对法妥协议和的资本和机会。李鸿章表示，“当藉谅山一胜之威与缔和约，则法人必不再妄求。”复致电总理衙门说：“谅山已复，若此时平心与和，和款可无大损，否则兵又连矣。”据此，清政府授权金登干于4月4日同法国外交部政治司司长毕尔签订了《巴黎停战协定》（又称《中法议和草约》）。清政府的停战撤兵命令，葬送了广大军民在中越战场上用鲜血换来的胜利，遭到了全国人民的愤怒谴责。许多人将清政府的撤兵令比做南宋秦桧命岳飞从朱仙镇退兵的金牌诏。有人在诗中写道：“十二金牌事，于今复见之。黄龙将痛饮，花目忽生期。”就连清政府派赴广东会筹防务的彭玉麟也赋诗说：“电飞宰相和戎惯，雷厉班师撤战回。不使黄龙成痛饮，古今一辙使人哀。”在前线，广大爱国的清军将士接到停战撤兵命令后，个个痛心疾首，“拔剑斫（zhuó）地，恨恨连声”。许多士兵环列于将帅帐外，“摩拳擦掌，同声请战”，愿先立军令状，“战如不胜，甘从军法”。冯子材、王德榜等清军将领致电两广总督张之洞，强烈要求代奏清廷，请“诛杀议和之人”，抗战到底。表达了抗敌将士的共同愿望。张之洞三次电奏，请暂缓撤兵，希望停战前攻下北宁。
清廷不顾全国人民的强烈反对，决意对法妥协，电令张之洞“冯、王若不乘胜即收，不唯全局败坏，且孤军深入，战事益无把握，著该督遵旨，亟电各营，如期停战撤兵，尚有违误，致生他变，唯该督是问”。广大爱国将士被迫从越南撤兵。
1885年6月9日，李鸿章与巴德诺代表中法两国在天津签订《中法会订越南条约》（又称《中法新约》或《李巴条约》），其主要内容是：中国承认法国对越南的保护权；在中越边境指定两处为法国陆路商埠，一在保胜以上，一在谅山以北；允许法国在此设立领事馆；法货进出中国边界，应减轻关税；日后中国修建铁路，须向法国人商办；法军从台湾和澎湖撤军。
由于清朝统治阶级的腐败无能，使法国侵略者在军事上遭到失败的情况下，却在谈判桌上获得了他们在战场上所无法获得的东西，出现了中国不败而败，虽胜仍败，法国不胜而胜，虽败反胜的战争结局。
左宗棠听到清廷在大胜后下令停战的消息，大为惊诧，立即于三月初四日（4月18日）上奏折，直陈“要盟宜慎，防兵难撤”。
他说：
用兵之道，宜防尔诈我虞，驭夷之方，贵在有备无患。法国自从逞兵以来，屡次以忽和忽战误我大局，去年订立《简明条约》，口血未干，便撕毁条约，进攻挑衅，“甚且逞其无赖，以为观音桥之战自我先开”，威胁恫吓、无所不至，现在又请议和，怎可轻信？“自去秋至今，沿海沿边各省惨淡经营，稍为周密。今忽隐忍出此，日后办理洋务，必有承其敝者。”
这个奏折虽然不能力挽狂澜，但深刻而尖锐地揭露了法国侵略者的侵略手法，抨击了李鸿章等的求降误国，指责了清政府在抗法问题上举棋不定、轻率从事。当时全国人民和多数中下级官员，抗法情绪高涨，纷纷反对妥协求和。主战派都把希望寄托在左宗棠身上。从三月二十七日（5月11日）起，李鸿章与巴德诺开始谈判的情况传到张之洞的耳里，他感到自己“人微言轻”，认为只有左宗棠“举足轻重”，能“影响大局”。四月十五日（5月28日），他打电报给左宗棠说：“听说中法详细约款十条，数日内即将画押，无非利法害华之事，我已一再奏阻，初则切责，后则不报：人微言轻，无术挽救。若再草草画押，后悔曷追？公有回天之力，幸速图之，但勿道洞言。”
事实上，张之洞的电报只能增加左宗棠的苦痛。慈禧太后是支持李鸿章的，他们一向是主张求和，即使他再坚持抗敌，也没有什么意义，毕竟，他并非最高决策之人，和战大局非笔墨所能挽回，其虽有心报国，实无力回天！
督师南下留遗恨
左宗棠一心待出“四十余年恶气”，但他却连续收到停战撤兵和接受《中法新约》的消息。这样的消息，犹如晴天霹雳，把他这个钢铁巨人彻底击垮了！失望与悲愤煎熬着这位爱国老臣，他再也支持不住了，“肝疾牵动，愤郁焦烦”，痰涌气喘，手脚麻痹，他知道自己病情日益严重。五月十八日（6月19日），左宗棠上奏请求开缺回籍，未允，给假一月。而他仍念念不忘奏请将孤悬海外的台湾改建行省，其在《台防紧要请移驻巡抚折》中，首先从东南沿海的战略形势，申论台湾必须迅速改建行省，他说：
今日之事势，以海防为要地，而闽省之筹防，以台湾为重地。台湾孤注大洋，为七省门户，关系实非浅鲜。
为坚定清廷降旨在台建省的信心，左宗棠进而陈述了台岛建省的三个可能性：
其一，台湾系岛屿，绵亘一千余里，旧制设官之地，只海滨三分之一，其疆域之大，足可建省。
其二，台湾每年物产关税，较之广西、贵州等省，有盈无细，其经济实力，足可建省。
其三，台湾抚番之政果能切实推行，自然之利，不为因循废弃，居然海外一大都会，其开发潜力之大，足可建省。
清廷命军机大臣、总理各国事务大臣、六部九卿会同各省督抚对此折议复，均表赞成。于是清廷于光绪十一年九月初五日（1885年10月21日）颁旨，命将福建巡抚改为台湾巡抚，台湾开置行省。台湾从此成为祖国的一个省份。可惜左宗棠没有等到这一天。
左宗棠于七月二十六日（9月15日）离开京师后，经一月“水陆兼程”抵达江宁（今南京市）。在这里，左宗棠与两江总督曾国荃商讨了东南沿海的防务问题。左宗棠认为，江苏“防务布置尚属周密”，只有福建海防“情形吃紧”。因此，他决定立即招募旧部，“迅速成军，开拔前进”。
本来，清廷于七月十九日任命左宗棠为钦差大臣、督办福建军务的第二天，曾在“上谕”中只是令左宗棠“前往浙江、福建交界地方，督兵驻扎，以备策应”。清廷又于九月初九日复谕左宗棠“应遵前旨，在闽境驻扎，毋庸身临前敌，自不必亲统多营”，以示对这个老臣的“体恤”，但左宗棠并没有遵旨而行，他感到福建防守“兵力尚单，难资分布”，需要他全面部署，便上奏请求对“如何扼要驻扎”等事宜，准其“体察情形，随时具奏”。这样，左宗棠在江宁经半个多月的积极筹措，在组军、筹饷和咨商南北洋大臣各调派轮船四五艘帮助援台等方面略有眉目之后，于九月十三日离宁赴榕。
十月二十七日（12月14日），左宗棠率军抵达福州。此时，福州城内正因前此马尾之败和法军又于八月十三日攻占台湾北部的基隆而人心惶惶，一片混乱。左宗棠的到来，使福州人心大定。据记载，当钦差大臣左宗棠带领军队进入福州城时，“凛凛威风，前面但见旗帜飘扬，上大书‘恪靖侯左’，中间则队伍排列两行，个个肩荷洋枪，步伐整齐，后面一个乘肥马，执长鞭，头戴双眼花翎，身穿黄绫马褂，……主将左宫保是也”。“盖榕垣当风声鹤唳之秋，经此一番恐怖，一见宫保，无异天神降临，所以敬礼如此也。”福州人民夹道欢迎“左侯相”，在这位钦差大臣行馆的大厅上贴了一副楹联：
数千里荡节复临，水复山重，半壁东南资保障；
亿万姓轺（yáo）车争拥，风清霜肃，十闽上下仰声威。
左宗棠在阔别福州18年后重临此地，感慨万分。然而，他此时无暇回顾往事，只有倾其全力投入到派兵援助台湾和部署闽江防务等紧要军务中去。
左宗棠到福州后，尽管百端待举，但他首议调兵援台。他到福州后两天，就根据对台湾情形进行的“详察”，上奏提出必须“妥筹赴援”台湾的主张。他一面“密敕刘铭传速督所部克日进兵，规复基隆”；一面根据法军“封禁全台海口”的严重情况，先派已革总兵杨在元赴厦门侦察敌情，预雇轮船，以暗渡营勇，并希望“一俟南洋兵轮赴闽有期，再行调兵分扎马祖澳芭蕉山等处，以图首尾牵制，不任其肆意久据”，从而打破法国舰队对台湾海峡的封锁。但当时无商船可雇。
左宗棠在福建海军已全军覆没的情况下，原想得到南、北洋大臣的支持，各派舰船四五艘援闽。但由北洋大臣李鸿章操纵的北洋海军拒不南来，由南洋大臣曾国荃控制的南洋海军也借口海路受阻而“遇敌不前”。
于是，他“再四筹度，拟飞咨南洋大臣迅饬援台兵轮克日放洋，故作径薄台北之势，务使法夷牵制顾畏，不暇逡巡”，而一面檄令前江苏候补道王诗正统领恪靖亲军三营，陆续开赴泉州、蚶（hān）江一带，准备渔船，扮做渔人，趁黑夜偷袭。复派行营总理营务处江苏候补道陈鸣志克日渡台，“会商台湾镇、道及地方绅士，妥筹恢复基隆之策”。他还打算亲赴台湾督战。
左宗棠嘱咐王诗正抵台后遇事禀商刘铭传，并说“军情瞬息千变，如有机会可乘”，“亦准其相机行事，不必过于拘牵”。至十二月底，王诗正统带恪靖各营分批渡过台湾海峡，抵达台南，增强了台湾的防卫力量。刘铭传、王诗正督率各军力挫强敌，终于保住了台湾。孤拔在企图攻占台湾的阴谋破灭、复经淡水之役败溃和基隆被围后又企图进取浙江镇海，结果又被中国守军打退，孤拔也被击伤，法军只得于光绪十一年二月（1885年3月）退踞澎湖群岛，孤拔不久在此毙命。左宗棠督军援台，对于扭转台湾所面临的严重危局起到了关键作用。
左宗棠要着重对待的第二个问题是布置闽江防务。闽江海口有一大岛叫瑯崎岛，岛上的金牌与北岸的长门“为入口最要之地”。左宗棠派福建按察使裴荫森、道员刘倬云等“星夜督工，就该处竖立铁桩，横以铁绠（gěng），没入水中，安设机器，随时捩（liè）转起落，以便我船出入，敌船至则起绠以阻之”。随后，他又于“距省城三十里之林浦、魁歧及闽安右路出海之梅花江，概经垒石填塞，仅容小舟来往”，并在“以上各处均建筑炮台，安放炮位，派兵驻守，可资捍卫而遏敌冲”。左宗棠还与帮办福建军务的闽浙总督杨昌浚、福州将军穆图善会商“妥筹一切”，决定“将海口水道标识立即撤去，并督饬水雷教习将各雷火药装齐，沿港遍布”。左宗棠把长门、金牌各炮台视为“闽港第一关键”，部署穆图善驻军于此。穆图善把从马江中起出的被击沉军舰上的大炮“迅催安妥”，“又将原设各炮次第修备，督同各将弁昼夜巡守。敌船如敢来犯，立予轰击”。被左宗棠视为“第二重门户”的“闽安之南北岸，亦关系紧要，原设备炮台被敌轰毁之后，正在修整。原设各炮亦有数门可以开放”。这样，安放在闽江出海口的铁绠，犹如一把铁锁，而长门、金牌炮台和闽安南北岸炮台则宛如两道铜关，可谓铁锁铜关，互为表里。
十二月二十六、二十七日（1885年2月10日、11日），左宗棠同杨昌浚先后离开福州，到南台、林浦、马江、闽安南北岸和长门、金牌等地巡视。二十八日同到长门、金牌，“各营将士均站队试枪，军容甚肃，各炮台可放之炮亦皆演放数过”。左宗棠检查防务情况后，满怀信心地说：“如狡寇果来，势难插翅飞过。”福建前线的防务大为增强，五个多月前马尾之战的悲剧此时已不可能重演了！
左宗棠到福建后办的第三件事，就是试办闽台糖务。左宗棠抵福建后，见边防紧要，营勇日增，军用浩繁，库司告竭，协饷不继，虽借洋款四百万两，而款多息巨，筹还不易，于是有开源节流之意。
左宗棠于1885年9月7日奏请试办闽台糖务。
左宗棠的规划是：拟于借款内提银数万两，先派熟知糖务之员亲赴美国产糖之区参观做法，购小厂机器，兼雇洋工数名来华试制。俟考定得糖实数，另议章程；或购蔗制糖，或代民熬煮。民利仍还之民，官止收其多出之数；卓有成效，即行扩充。不唯内地各口可以一律照办，台湾产蔗尤多，军务一平，即须加意仿办。果如西书所载，利益与盐相埒。唯以官经商，可暂而不可久；如官倡其利，民必羡之。有的实之户、不搭洋股者，呈资入股，应准承课充商；官本既还，止收岁课，不必派员管厂。
在督办福建军务时，左宗棠还做了一件事，那就是奏拓福州船政局。马尾之战，使得中国福建水师全军覆灭，左宗棠亲手筹办并毕生关注的福州船政局也遭到破坏。虽然经船政局全体人员的努力，船厂很快治好了战争创伤，继续开厂生产，但教训是沉痛的。左宗棠痛定思痛，于抵达福建后，从加强战备和海防全局出发，力图亡羊补牢，重新加以规划整理。
六月，左宗棠的病情急剧恶化，六月九日夜里竟一度昏死过去，“赶紧进药，逾时始苏”。就在垂危之际，左宗棠于六月十八日（7月29日）还向清廷口授了一份《请专设海防大臣》的奏折，提出了全盘规划，统一领导，以加强海防建设的七条意见：
（一）师船宜备造；
（二）营制宜参酌；
（三）巡守操练宜定例；
（四）各局宜合并；
（五）经费宜通筹；
（六）铁路宜分造；
（七）士气宜培养。
在此奏折中，左宗棠总结了中法战争中各省督抚各自为政、互不支持的教训，建议清廷设立海防全政大臣（或名海部大臣），“驻扎长江，南控闽越，北卫徽辅”；“另择副臣，居则赞襄庶务，出则留守督工，权有专属，责无旁贷”；“南、北洋兵轮各自成军，共设十八军”；“归海防大臣统辖，每军设统领一员，秩比提督。……各疆臣只节制守口陆军，非军务万紧，不得调遣海军兵船”。海防全政大臣还节制船、炮、矿、厂、军火，以统一事权。这是左宗棠临终前设计的一幅海防蓝图。在这份奏折中，他也诉说了自己“衰朽残年，谬膺重寄，成功未奏，方切疚心”，要求清廷准其告病回湘。
七月二十五日（9月3日），接到“俯如所请”的上谕，可是左宗棠的心血已经耗尽，再也没有余力返回湖南老家了，只勉强在病榻上延挨了两日。在弥留之际，神智昏昏，经常在喊：“娃子们，出队！”“我要打仗！”左右亦就顺着他的话敷衍。不甘屈和而又无可奈何的左宗棠，“总以此行未能破敌，大加惩创，引以为恨事”。临终前，自知不起，口授遗折：
此次越南和战，实中国强弱一大关键，臣督师南下，迄未大张挞伐，张我国威，遗恨平生，不能瞑目。
这铿锵悲壮的遗言，闪耀着左宗棠强烈赤诚的爱国主义精神的光辉！
是年，七月二十七日（1885年9月5日），在台风侵袭福州、惊雷震撼、风雨交加的时刻，左宗棠走完了他的一生。他是在福州北门黄华馆钦差行辕任上去世的。
左宗棠死了，法国人松了一口气，他们在攻占台湾岛，左宗棠与他们摆开了决战的架势，他们吃过左宗棠的大亏，知道他是只雄狮。左宗棠死了，英国人松了一口气，英国领事在上海租界竖有“华人与狗，不许入内”的牌子，左宗棠令侍卫将其立即捣毁，逮捕人犯。端坐在八人抬的大轿中的左宗棠，只要进入租界，租借当局立马换上中国龙旗，外国兵警执鞭清道。俄国人松了一口气，左宗棠把他们从新疆赶走，把他们侵占的伊犁收回，甚至用兵车运着棺木，准备与俄军决一死战。李鸿章也松了一口气，一个月前，他在天津与法国签订《中法会订越南条约》，一个地地道道的丧权辱国条约。左宗棠反对，说“对中国而言，十个法国将军，也比不上一个李鸿章坏事”。
左宗棠一死，意味着大清王朝最后的顶梁柱倒下了。左宗棠的死讯传出，“全城百姓，一闻宫保噩耗，无不扼腕深嗟，皆谓朝廷失一良将，吾闽亦失一长城”。“归丧之日，江浙关陇士民闻之，奔走悼痛，如失所亲。”这确是一幕忠贞抗法、殚精竭虑、鞠躬尽瘁，而“恶气未吐”、壮志未酬的历史悲剧。各阶层人民由衷的崇敬和深沉的悼念则是对这位坚强、刚毅的爱国者最公正的论定。
左宗棠死后，清廷发布上谕，称：“大学士左宗棠学问优长，经济闳远，秉性廉正，莅事忠诚”，“叠著战功”，“运筹决胜”，“底定回疆，厥功尤伟”，“尽心民事，裨益地方，扬历中外，恪矢公忠”，着追赠太傅，加恩予谥“文襄”。他的“左文襄公”之名由此而得。