还有，在这次西征中，最可怕的局面就是俄国、英国、阿古柏联合起来对抗左宗棠率领的军队。如果这三股势力真的联合起来的话，那么收复新疆就难上加难了。
幸好左宗棠不仅是一位杰出的地主阶级军事家、政治家，而且还是一位出色的外交家。他善于运用策略，能够抓住敌人的内部矛盾，取得外交的胜利。
当时，英、俄两国矛盾冲突的一个焦点地区就是新疆。一方面，英、俄势力的参与增加了左宗棠西征的难度；另一方面，英、俄两国间的矛盾斗争又让双方有所顾虑和牵制，给左宗棠率军收复新疆提供了良机。
光绪元年（1875年），就在左宗棠紧锣密鼓地筹备征讨新疆期间，英国人在报纸上说左宗棠并不想出关作战，还散布谣言说左宗棠领兵出关失利、败退关内等等，想用舆论动摇军心，达到阻止清军西征的目的。此时，俄国并没有明显地采取援助阿古柏政权或妨碍清军讨伐阿古柏的行动。所以，在用兵新疆期间，左宗棠注意稳住俄国，而在外交上全力对付阿古柏的后台——英国。
同治十三年（1874年），在西征军就要出关之际，俄军参谋部索斯诺夫斯基中校率领一个所谓“科学贸易考察队”前来中国游历考察。次年，他到达兰州拜会左宗棠，在总督衙门住了27天，刺探中国备战的情报和出关清军的实力。左宗棠自然清楚俄国人的来意，但为了防止俄、英、阿古柏联合起来对抗清朝军队，所以与索斯诺夫斯基中校假意周旋。
索斯诺夫斯基还以提供军粮甚至军事援助为诱饵，希望能够达到由俄国控制新疆局势的目的。尽管索斯诺夫斯基的花言巧语曾一度迷惑了清朝的不少官员，但左宗棠只买了俄国比较便宜的粮食，却断然拒绝了俄国派兵派官“助剿”的提议。
通过与索斯诺夫斯基的交往，左宗棠搞明白了英俄矛盾重重，不大可能联合起来对付中国；俄阿也有不小的宿怨，俄国也不会加以援助阿古柏。后来，尽管索斯诺夫斯基回到俄国后不肯执行购粮合同，但还是兑现了一批俄国粮食，对西征军提供了一定的帮助。
经过近一年的积极备战，左宗棠在光绪二年二月二十一日（1876年3月16日）离开兰州西进，三月十三日（4月7日）抵达肃州（今酒泉市），拉开了收复新疆失地的战幕。
拿下乌鲁木齐城
左宗棠收复新疆的第一个战略目标是进取北路乌鲁木齐、玛纳斯二城，重点是攻克乌鲁木齐，因为乌鲁木齐是全疆的关键，必须首先攻下来，以后的战局才会越来越顺利。他这样做并不是心血来潮，而是有充分的理由。
首先，虽然乌鲁木齐城东南三里有红山屏蔽，城南有高耸的福寿山，易守难攻，但是新疆的整个地形地势是北高南低，从南疆攻入北疆难，而从北疆攻入南疆易。如果西征军能先收复乌鲁木齐，就在战略上占据了有利地位。
其次，阿古柏是从西端首先进入南疆，然后逐步吞并北疆，他的巢穴和主力部队大都集中在南疆。而北疆主要由依附于阿古柏的本地封建主势力和白彦虎的陕甘回军残部据守，盘踞在乌鲁木齐附近的红庙子、古牧地、玛纳斯一带，他们兵力比较分散、薄弱，缺乏战斗力。
所以，如果胜利收复乌鲁木齐一带的话，就阻断了阿古柏势力探入北疆的触角，同时也在伊犁东面安下一个钉子，防止沙俄威胁清军的后方。
早在同治十三年（1874年），左宗棠便派提督张曜统领十多营“嵩武军”开往新疆，在哈密驻扎，大大加强了从新疆进入甘肃大门的防务。以后，左宗棠命金顺严守巴里坤、古城一线运道，保住这一往后收复乌鲁木齐的前进基地。
从光绪二年四月（1876年5月）初开始，左宗棠命刘锦棠率各营长驱直入，开赴新疆哈密，不久就进入到了古城。五月，“蜀军”徐占彪部也出关进驻巴里坤。
各军有条不紊地进入新疆，迈出了收复新疆的坚定步伐。虽然每营仅发四个月盐菜，但却没有一个兵丁退却、畏惧不前，反而英姿勃勃、满怀豪情。面对这样的军队，左宗棠的心情格外激动，他仿佛看到了胜利的曙光。
在晚清，能看到有这样强战斗力的军队实属不易。能训练出这样的西征军，左宗棠功不可没。
此刻新疆的形势大致是这样的：
俄国人在西部占据伊犁；在东部和北部，清政府的残余势力控制着从哈密经巴里坤、古城子到济木萨和塔尔巴哈台的一线。清政府控制的这些地区非常重要，因为哈密是由甘肃出关到新疆的第一重大门，吐鲁番是南路的门户，巴里坤是北路的门户。虽然吐鲁番已经不保，但哈密和巴里坤还在清廷掌握之中，成了进兵的最佳通道。
此时，先后出关的西征大军已经自东向西依次进驻哈密、巴里坤、古城、济木萨。左宗棠认为，金顺驻军济木萨，距离乌鲁木齐尚远，而敌人的精锐多在古牧地，这里距阜康县城九十里。因此他命令刘锦棠到济木萨后，以大队进驻阜康县城，派兵攻取古牧地。
根据左宗棠的部署，刘锦棠到古城后不久，便带轻骑来到济木萨金顺行营，商定进兵方略。他们探知乌城守备空虚，只有几千人据守，但距离乌城东北数十里的古牧地却有白彦虎等重兵扼守。所以若想攻克乌城，必须先攻克古牧地。从济木萨到古牧地有三百多里，而从阜康县城进军古牧地只有百余里。所以，刘锦棠和金顺二人商定先攻克阜康，再攻取古牧地。只要把乌城的外围清理干净后，那么乌城就成了孤城，不费吹灰之力就能拿下。
商定进兵方略后，他们把拟定的计划禀报给左宗棠，左宗棠对这个方案还是比较满意的。为了防止被围困的敌人四处乱窜，他派兵加强了对巴里坤到古城子一线和哈密地区的防守。他还特别留意了嘉峪关内的青头山口，因为敌人很可能从这里流窜到青海和西藏。另外，他还奏请命驻新疆西北的清军加强对漠北的防守，从而切断敌人从北面逃入俄罗斯的退路。
左宗棠给敌人布下了天罗地网，只要一声令下，就可以把敌人一网打尽。为了避免滥杀无辜，在进攻之前，左宗棠再次向全军申明纪律，严禁烧杀抢掠。尤其对于当地的少数民族同胞，只要有悔改意向，愿意回归，就宽大处理。
刘锦棠返回古城后，在六月初一日（7月21日）率湘军马步各营抵济木萨。刘锦棠、金顺二军会合后，实力大增，结果没费什么力气，就在六月初八日（7月28日）攻下了阜康城。此时的阜康城已经不再是昔日的繁华小镇。战乱之后，人烟稀少，杂草丛生，不便行走。清军不得不整修道路，以便在阜康一带集结大队人马。
当白彦虎得知老对头左宗棠率军一路追到新疆并且已经兵临古牧地附近后，预感到自己的好日子到头了，便从乌鲁木齐移踞到古牧地，试图负隅顽抗，做最后一搏。阿古柏也知道乌鲁木齐的重要性，所以也从南疆调遣援军前来助战，试图把左宗棠的大军阻隔在这里。
刘锦棠部侦察到有两条路可以通往古牧地：一条大路，要经过戈壁，缺乏水源；另一条是小路，虽然水源充足，但要通过敌人重兵把守的黄田。
白彦虎希望把清军逼到戈壁滩上，所以在水源之地黄田多处筑卡，严密防守，而对大路却不加任何防守。刘锦棠将计就计，将马步各营调集离阜康县城西部10里之处，开挖废旧渠道和枯井，忙碌着准备行军用水，做出一副走大路的模样，迷惑敌人。
敌人果然上当了，以为清军要走大路，便放松了对小路的戒备。
结果，在二十一日（8月10日）三更时分，刘锦棠和金顺率领大军，神不知鬼不觉地挥军直捣黄田。黎明时分，占领了黄田一带有利地势的清军向敌军发起了猛烈的进攻。从睡梦中被枪炮声惊醒的敌军，一面向古牧地守敌求援，一面向清军展开猛烈的反攻。
刘锦棠率兵从左，金顺率兵从右，对敌军进行左右夹击。在清军猛烈的攻击下，敌军大败，丢弃辎重物资，狼狈逃窜。
刘锦棠率兵一直追到古牧地，守军或入城固守，或逃向红庙子。刘锦棠见古牧地城大墙坚，一时难以攻破，便派营分别驻扎在古牧地城正东及东北面，金顺所部驻扎城东南。
古牧地是乌鲁木齐的外围要隘，敌人驻守了重兵，刘、金二军为了不给敌人喘息的机会，在黄田休整了数天后，全军在六月二十三日开始进攻古牧地。先头部队刚刚到达红庙子，就遇到了阿古柏派来增援的数千骑兵。刘锦棠一面通知金顺，一面整队迎敌。打退敌人的援兵后，清军将士在猛烈炮火的支持下，迅速攻占了城外的山垒和城关，完成了对古牧地的包围。
在外围据点尽失的情况下，敌人退到城内，关闭城门，企图固守待援。
面对顽敌，刘锦棠与金顺认为屯兵坚城之下，应该速战速决，聚而歼之。同时严密防堵，防止敌人逃窜。最终由金顺所部负责城西、西北、西南三面的防务，刘锦棠所部驻扎城北、东北、城东，防止敌人逃窜，并连夜赶修炮台，安放大炮。结果修筑的炮台比城墙还高出一丈，在火力上占据了优势。刘锦棠下令日夜开炮轰击城墙，不久东北角和东南城垛被轰塌。守军想修补被毁的城墙，无奈清军的炮火过于猛烈，只好放弃了这个打算。
二十七日（8月16日），清军炮兵又在城东炸开了一道一二丈宽的缺口。形势对清军极为有利，攻克城池成了指日可待的事情了。
同日，刘锦棠与金顺商定由他攻东、南两面，金顺攻西、北两面，准备对守敌发起总攻。当晚二更，刘锦棠召集将领布置了攻城作战任务。
万事俱备，只差一声号令，便可歼灭城内顽抗的守敌。
二十八日（8月17日）凌晨，清军大炮轰塌了南城墙，清军炮火将城墙多处炸开缺口。时机已经成熟，刘锦棠下令发起总攻，各营号角齐鸣，清军从四面八方扑向了古牧地。
但是，守敌拼死抵抗，战斗异常激烈。经过数小时的鏖战后，刘锦棠所部从城的东南角率先攻入城中，金顺所部也从东北相继攻入城中。
面对潮水般涌进城的清军，守敌没有了斗志，败下阵来。就这样，清军攻占了古牧地，击毙敌军6000多人，还缴获了大量的武器和装备。
古牧地本来是由白彦虎重兵驻守的，当他听到黄田被攻破后，便逃回到乌鲁木齐。在这种关键时刻，主将都临阵脱逃，想要逃脱不败的命运是不可能的。所以，古牧地之所以能这么快就被攻克，清军炮火猛烈、作战勇敢是一方面，白彦虎的逃跑也是一个很重要的因素。
清军攻克古牧地后，从缴获的一封敌人的机密文件中得知乌鲁木齐已经成为一座空城。这就奇怪了，乌鲁木齐本是一个兵家必争的重地，怎么就空虚了呢？
我们知道，守卫乌鲁木齐的是马人得，同时管理昌吉、古牧地、玛纳斯和呼图壁诸城。我们先来了解一下马人得这个人。
马人得自称清真王妥得璘同党马仲的儿子。妥得璘先是进攻阿古柏，被阿古柏击败。随后阿古柏与马仲联合进攻妥得璘，迫其投降。后来，马仲被杀，马人得继任阿奇木，掌握了大权。妥得璘死后，余党马明等也投降了阿古柏。陕回白彦虎流窜到关外后，和阿古柏臭味相投，为虎作伥，联合起来守着红庙子。
逃回到乌鲁木齐的白彦虎与马人得会合，本想固守乌鲁木齐，但当听到古牧地被攻克，精锐部队全被歼灭后，白、马二人惊恐万分，哪里还有心情战斗，保命是第一位的，于是带着妻儿老小和值钱的金银财宝向南面逃去。
上行下效，下面的守军也乱成了一锅粥，争相逃命。这样，乌鲁木齐就成了一座名副其实的空城。刘锦棠认为机不可失，但为了慎重起见，他派兵前去侦察。此时，敌军已经如惊弓之鸟，在通往乌鲁木齐的大路上，已经见不到敌军大队人马的踪影了。
二十九日（8月18日）黎明，刘锦棠除了留少量军队驻守古牧地外，挥师向乌鲁木齐进发。一路上，清军如秋风扫落叶般，横扫残敌，迅速包围了乌鲁木齐城。残余的守敌见大事不妙，纷纷放下武器投降。就这样，清军不费吹灰之力就收复了乌鲁木齐。由于刘锦棠作战勇敢，表现出色，清廷赏给他骑都尉世职的奖赏。
再看阿古柏，当他得报乌鲁木齐危急时，便派数千骑兵来增援，但还是晚了一步，在离乌鲁木齐城280里处，清军已经占领了乌鲁木齐城，只好很无奈地退兵而去。
清军的辉煌战绩给敌军造成了不小的压力，昌吉、呼图壁各城敌军听到乌鲁木齐城失守后，闻风而逃。只有玛纳斯南城的守军仍然在抗拒官军。
七月初一，金顺率军从昌吉前往玛纳斯助战，刘锦棠则指挥所部清除了东山、大西沟、水西沟、三台、阜康等地白彦虎和余小虎的残余势力，进一步巩固收复的失地，从而保证了清军后方的安全。
但在攻打玛纳斯南城的清军各部遇到了难题，为了争克城之功，各行其是，不仅没有攻下城池，还造成了严重的人员伤亡。最后，不得不向刘锦棠求援。
八月十七日（10月4日），刘锦棠接到金顺的求援信后，派兵前往增援。
九月二十一日（11月6日），刘锦棠、金顺会同署伊犁将军荣全各军齐心协力克复玛纳斯南城，收复了玛纳斯全境。就这样，阿古柏匪帮在北疆的势力被全部驱除干净了。
是否用兵南疆是个问题
清军收复古牧地、乌鲁木齐、玛纳斯的战斗虽然打击了阿古柏集团的嚣张气焰，但只是动其皮毛而已。因为阿古柏集团的主力部队主要部署在南疆。所以，若要彻底摧毁阿古柏政权，就必须向南疆进军。
左宗棠用巨大的军事胜利换来了清廷对他更大的信任。所以，清廷赞同左宗棠用兵南疆，将阿古柏匪帮彻底消灭的军事计划。因为当时的清廷太需要胜利了，左宗棠的战绩不仅让清廷看到了希望，还让国人看到了希望。
但在清廷内部却发出了不同的声音。
还记得，光绪元年（1875年）春，清廷内部发生“塞防”、“海防”之争时，为了减少阻力，左宗棠在奏折中特重点强调收复乌鲁木齐，并没有明确提出用兵南疆的问题。
当时，只有文祥支持左宗棠的主张。但此刻的文祥却主张收复乌鲁木齐后应该画地自守、停止用兵。这前后一百八十度的大转变真是让人大跌眼镜。他当初的主张难道只是一个噱头而已，他骨子里难道就是一个给一块糖就满足的人吗？我们只能猜测一下文祥的为人了。
作为朝廷举足轻重的人物，文祥的主张自然会引起清政府的重视。还有身任户部右侍郎的翁同龢也认为进军南疆是耗空了中原地区而去经营荒岭沙田，曾经当面进谏慈禧太后停止用兵南疆。
不仅清廷内部有停止进军南疆的呼声，英国也主动出面，以调停的名义袒护它的走狗阿古柏，阻挠左宗棠用兵南疆。
英国外交大臣德尔比电令驻华公使威妥玛，要求清政府同意阿古柏称喀什噶尔王，作为清朝属国，但不纳贡。于是威妥玛想借助重臣李鸿章的力量来达到这个可耻的目的。
李鸿章借此劝朝廷停止用兵，他认为阿古柏的背后是英国，左宗棠进兵南疆捞不到什么好处，结果只会功不抵过。