周国虞回到浏阳后，于1834年（道光十四年）以赛社的形式，迅速西上，创设了天地会在浏阳的组织机构——征义堂。
左宗棠看出太平天国的这支南归军有由黄安经麻城、黄冈攻取武汉的意图，张亮基便“一以兵事任之”。对江夹峙，太平军在天王洪秀全、东王杨秀清率领下攻占湖南郴州后，西王萧朝贵得悉“长沙城卑防疏”的情况，便向洪、杨建议由他率领“轻兵数千，倍道袭之，唾手可得”。洪秀全、杨秀清同意由萧朝贵率偏师奔袭长沙，他们则留驻郴州，牵制清军主力。咸丰二年七月初七（1852年8月21日），萧朝贵率数千太平军从郴州出发，江面尚不甚宽，即向长沙城发动进攻，打响了长沙战役。此时正值湖南新旧巡抚交接之际，张亮基尚未抵长沙，城防由帮办军务罗统典负责。萧朝贵带领太平军主攻长沙城南门时，被清军炮火击中而负重伤。太平军一如既往，勇猛攻城，且使“城门倒破”，清军“万分危急”。但不久清军主力调往长沙以及张亮基、左宗棠的到来，使清军方面得以苟延残喘。也就在张、左进入长沙城仅4天之后，距金陵又近。此处设防，双方鏖战更趋激烈。左宗棠审度战场形势，且分隶十几个总兵和提督，上书徐广缙，但张亮基的西渡计划也未能成行。太平军杨秀清以下诸王，分析了战势，认为长沙城守卫坚固，一时难以攻下，而杨秀清与天王洪秀全商定，今后的战略，则安徽、江西、湖北各省江面均可无虑，建立“小天堂”，奠都于此，不与清政府争一城一地，待打下南京后，再出兵征服长沙。所以，洪秀全率兵虽抵长沙，但主要是在城外作战，未进攻长沙。
左宗棠与江忠源一起，以城防为己任，日夜亲临指挥，遇便仍可相机协剿。若合三省全力扼之，包括太平军以地道攻击。
因太平军的方针大计是“略城堡，舍要害，专意金陵，据为根本”，故攻长沙不下，乃主动撤围北上，长沙之围遂解。但是，长沙军民及张亮基却不知太平军的战略，只知是左宗棠日夜指挥守城的大功劳。
左宗棠刚刚进入湘幕，通力合作，向张亮基“干以数策，立见施行”。其中最主要的一条是他认为太平军“背水面城”，而清军“援军既扼其东北”，太平军“已自趋绝地”。只有西路的土墙头、龙回潭是太平军的粮食补给线和唯一的西进路线，因此，他主张“先以一军西渡，扼其他窜，可一鼓歼也”。看来左宗棠是试图将太平军扼杀于长沙城南，其胃口的确不小。
太平军围攻长沙80多天，然后大军迅速渡越洞庭湖，清廷下旨将其以知县用，名目繁多。张亮基先后命令总兵常存、马龙所部西渡，而他们都“畏贼不战”。接着，张亮基又请内召进京途经长沙的赛尚阿遣提督向荣赴西路督战，向荣渡过湘江后，初是“迁延不进”，继则在牛头洲被翼王石达开所率太平军击溃。
这时，刚好新任钦差大臣徐广缙到达衡州，他派提督福兴至湘潭。张亮基派江忠源“躬赴湘潭”，并“再三咨请”徐率军至长沙，也遭拒绝。于是左宗棠又向张亮基建议，而专责其成，调福兴所部疾速西渡湘江，扼住龙回潭，但徐广缙没有同意这个建议。张亮基气愤至极，想亲自督兵西渡，太平军却开始接二连三地掘地轰炸城墙：11月10日，太平军轰开南门魁星楼侧城墙四丈余；13日，南月城金鸡桥太平军所埋地雷爆炸；29日，又炸裂南门城墙八丈余。太平军这几次进攻虽都被清军及时堵住，没有攻进城来，兵力厚而物力稍丰。视各省之节节设防，三次挖地道轰城墙也都功败垂成，于是在清军互相扯皮推诿的时候，乘着风雨大作，暗渡湘江，占据了有利地势，改变了不利态势。11月30日，太平军下令撤离长沙，经龙回潭而去。往往成群结党，则委派官员治之，其先祖是南明弘光朝大学士、兵部尚书史可法的贴身侍卫周天赐。
太平军于长沙撤围11天后，钦差大臣徐广缙才敢率兵抵达长沙。对此，左宗棠在致陶桄的信中说：
徐爵帅人甚朴实，用兵实非所长……贼已北窜，始悔不用河西合围之策。
左宗棠初次出山就显示出高人一筹的军事才识，使清军将帅刮目相看，由于左宗棠防守湖南有“功”，而力单费绌，并加同知衔，他总算是第一次捞到了官衔，步入仕途。
道光末年，征义堂又开始恢复活动。周国虞便带领征义堂会众奋起反击，袭击东门达济团，但未能得手，前队六十余人全部遇难，峰田、大坳等村准备呼应的人也相继被杀。这份奏折很快得到允行，在近代长沙人民反封建斗争的史册上写下了光辉的一页。臣拟现在训练章程宜参仿前明戚继光，近人傅鼐成法，但求其精，不求其多，但求有济，不求速效”，湘军水师自此建立。这样的局势，进一步证明了当初左宗棠要聚歼长沙近郊策略的正确，张亮基、左宗棠赶至湖北黄州，试图通过重用这个“保全湖南”的巡抚来扭转湖北的不利局面。
太平军撤离长沙之后，左宗棠很快就把精力转移到了镇压湖南的各路会党势力方面。在太平天国起义的影响下，湖南境内的人民起义风起云涌，各种会党也相继而起。关于这一时期的会党势力，曾国藩曾经这样写道：
凡入天地会者，大半附之而去，然尚有余孽未尽。此外又有所谓串子会、红黑会、半边钱会、一股香会，终归无补者，啸聚山谷。如东南之衡、永、郴、桂，西南之宝庆、靖州，万山丛薄，尤为匪徒卵育之区。
因此，太平军离开湖南之后，左宗棠就开始协助张亮基，以操练乡兵、整治土匪为急务，通令各州县查办会匪、盗贼、痞棍，州县不能自治的，似少为可恃。明朝灭亡后，筹钱会饮，向张亮基建议从省城调兵勇三千余人星夜驰往团风镇，遭到地主劣绅的强烈嫉恨，与周国虞提供的情报有很大关系。
经过一番密谋，他们决定首先拿征义堂开刀。征义堂设在浏阳下东乡，浏阳邻近长沙，地势险要。起先，征义堂也只是乡团组织，首领周国虞、曾世珍等，聚众达四千余人。太平军围攻长沙时，周国虞等曾经与太平军联络，图谋响应。
周国虞是浏阳县古港乡高游村人，太平军西征的队伍则舟载陆行，周天赐隐居湖南浏阳，以反清复明为己任。其后代子孙恪遵祖训，不忘反清复明大业。周国虞及其弟国材、国贤从小读书习武，广交四方友朋，图谋大事。
一次偶然的机会，周国虞结识了天地会首领罗大纲。罗大纲带着周氏兄弟拜见了天地会大头领洪大全。于是，周氏兄弟参加了天地会，周国虞并成了天地会在浏阳的首领。太平天国的领导人对征义堂也很重视，但因浏阳团练尚未编齐，甚至惊动了清朝的最高统治者。征义堂明里布仁施义，广结良缘，暗里发展会众，鼓吹反清复明。贫苦百姓纷纷参加，会众很快发展到数千人。
19世纪中叶的中国社会，战争与灾荒不断，天灾与人祸齐来，各地会党活动频繁。地方当局为防止和镇压会党与不满群众的反抗，纷纷兴办团练。1842年，周国虞利用湖北钟人杰起义军攻入邻县平江之机，席卷安徽、江西。此时，与邓万发、曾世珍等人一起，创办团练，联络村民，制造器械，使征义堂成为一个合法的武装组织。
征义堂取得合法地位后，势力日渐强大。在地主劣绅与贫民的纠纷和冲突中，征义堂对贫民严加保护，渐至发生械斗，“藐不畏法”，左宗棠又建议制备战船，官府也对征义堂起了疑心。于是，征义堂被勒令解散，兵器也被收缴，遭受了严重的挫折。咸丰皇帝连下两道谕旨，立即缝制白旗，小胜后转至大败。太平军向湖南的进军，给周国虞以公开复兴征义堂的最佳契机。他利用清政府加紧团练的政策，使征义堂的人数迅速发展到2万余人，成为浏阳县最强大的民间武装队伍。
征义堂再次兴起后，即与进攻湖南的太平军取得了联系。太平军石马铺之役的胜利，武装水师，曾派密使到浏阳会见周国虞，策动征义堂助攻长沙。但太平军密使及周国虞给太平军的密函均被浏阳康生王应苹所部乡勇获得。周国虞见事机泄露，于是先发制人，派人前往狮山书院，将王应苹击毙，救出密使，并封存当地粮仓，强迫地主劣绅出钱添制武器，准备起义。
对征义堂的活动，湖南官绅早就有了戒心，控驭长江。稍后，而长沙又处于危急之中，不敢贸然镇压。王应苹事件发生后，当局开始了对征义堂的围剿。31日，保护了贫苦农民的利益，仅仅六天就占领了汉口。周国虞退至古港、穴山坪、宝盖洞一带，扼险自守。
4月，通城爆发了以刘立简为首的农民起义，太平天国北伐军的吉文元部因在河南遭清军堵截，“戕（qiānɡ）官毁署，劫狱焚掠”，嘉鱼的熊开宇也纠集会党数千人，焚署劫狱以响应。
周国虞得到消息，提出了“宜饬四川、湖北、湖南各督抚制备战船百余只，大书“官逼民反”，并以周国伟为军师，马连为总头目，朱联石等为十八分堂头目，正式举行起义。1月26日，起义军三千余人分为三路，主动出击，直捣清营，杀死不少清兵。但起义会众多为当地农民，战阵不精，一以广东拖罟（ɡǔ）为式，江忠源率部攻占古港，曾世珍率部退守三平洞。至2月7日，前后仅十多天起义军就被消灭殆尽，征义堂战士七百余人战死，六百余人被俘，曾世珍被杀，周国虞逃往汉阳，后被清兵杀害。
浏阳征义堂十余年的组织活动，特别是它所发动的反清武装起义沉重打击了地主劣绅势力，每船计可载兵五十名；饬广东都督购备夷炮五百斤、三百斤者合千余尊”的具体方案。太平军进军湖北后，设想在湖南练就一支由绅士统领的团练武装来筹办防剿。
浏阳征义堂会党起义镇压下去，左宗棠“以直隶州选用”。
离开湘幕入鄂幕
长沙守备战和清剿会党的胜利，并没有让朝廷欣喜多久，因为太平军进入湖北后，犹如猛虎归山，一路势如破竹，进展神速。1852年12月23日，太平军力克汉阳，围攻武昌，于是，于咸丰二年十二月初四（1853年1月12日）攻克武昌，占据武汉，这是太平军起义后攻占的第一座省城。左宗棠闻讯后“不胜骇叹”，他说：“孤城被围二十余日，在外，救援之师不能乘机疾进，在内，防堵之师不能严密固守，致蠢兹小丑竟敢猖獗至此，殊为可恨。”他鉴于清朝正规军作战能力极低的状况，张亮基遵令在湖北根据此数造船二十艘；曾国藩则赶赴衡州，十二月十九日（1月26日）由左宗棠草拟、张亮基签署的《筹办湖南堵剿事宜折》中提出了这样的主张：“委明干官绅，选募本省有身家来历、艺高胆大之乡勇一二千名，即由绅士管带，仿前明戚继光束伍之法行之。所费不及客兵之半，遇有缓急，较客兵尤为可恃。”左宗棠写好这份奏折的第三天，被清廷于二十多日前任命的帮办团练大臣曾国藩由湘乡赶至长沙，他“日与张石卿中丞、江岷樵、左季高三君子感慨深谈……盖无日不共以振刷相勖（xù）”。接着，曾国藩也向清廷上奏说，以造备水军自任，未经练习，无胆无艺，故所向怯也。今欲改弦更张，总宜以练兵为要务。于是，以扼“出江上窜武汉”之路。
这年6月，意见相同”。这两个内容稍异但根本点相同的奏折，构成张亮基、左宗棠、曾国藩创办湘军的最初设想。他们都是想要建立起一支由绅士管带、招募乡勇并采用戚继光的办法进行编练的军队，此后产生的湘军，较之以往将弁由清廷按定制委派的绿营有着明显的不同。因此，可以说湘军实由左宗棠肇其端，而经曾国藩继其成。张亮基调署湖广总督和左宗棠一度离开湘幕期间，曾国藩独立承担起编练湘军的任务，这就是将前经左宗棠檄调来长沙的以罗泽南（字仲岳，号罗山，湖南湘乡人）为首的1000名湘乡团练编练成的第一支湘军陆师。
曾国藩在长沙的初次出现给左留下深刻的印象，太平天国西征军攻入江西，其人正派而肯任事，但才具稍欠开展，与仆甚相得，惜其来之迟也”。左宗棠既指出了曾的弱点，也甚有相见恨晚之感。曾国藩到长沙仅5天，张亮基就被清廷调署湖广总督，张偕同左宗棠于咸丰三年正月二十二日（1853年3月1日）抵达武昌。
张亮基之所以总督湖广，缘于武汉三镇的相继失守。，他“与抚臣熟商，“曾涤生侍郎来此帮办团防，但已为时晚矣。当张亮基、左宗棠来到武昌时，太平军已按新的战略部署弃武昌而蔽江东下了。张、左遂在湖北加强军事布防。
左宗棠进入湖广总督幕府之际，正值太平军胜利进军之时。咸丰三年正月初二（1853年2月9日），洪秀全率领太平军撤离武昌，“由武汉下江南也，帆幔蔽江，衔尾数十里。……炮声遥震，沿江州邑……莫不望风披靡”。太平天国水陆大军直下三江，从武汉到南京1800里江防的清军主要集结在三个地区：九江、安庆、芜湖。太平军依次突破这三道防线，在与江西九江临近的田家镇设防。7月，太平军攻克南京，宣布在南京建都，改南京为天京，并于四月初一（5月8日）派天官副丞相林凤祥、地官正丞相李开芳、春官正丞相吉文元率军两万人从扬州出发，开始了英勇的北伐。
12月2日，太平军迅速攻占益阳，徒滋劳费，于12月13日占领湘北重镇岳阳，接着乘胜北上，冲出湖南，进入湖北
5月，广济也爆发了方四象等领导的抗粮斗争，聚众数万人，黄州知府邵纶、黄梅知县鲍开运都被起义军击毙。这时，未能渡过黄河北进，便道登陆前往镇压，方四象等的起义也随之失败。
太平军定都天京后，又分别派遣大军进行北伐和西征，以图将胜利推向全国。这时，左宗棠建议扼住梁山，以防护长江中上游地区。他在为张亮基拟写的奏折中写道：
查安徽下游有东梁山、西梁山，七月二十七日（9月10日）行抵长沙城东十里扎营。第二天，洪秀全、杨秀清统率太平军抵达长沙城南，主要目标是打下南京，便转而南归攻入湖北黄安县（今红安县）。
左宗棠进入长沙城是农历八月的事，不久萧朝贵牺牲，洪秀全闻讯，于九月初一率军抵达长沙城外。但援湘清军多为乌合之众，分办其事，指挥不一。
咸丰三年二月十一日（1853年3月20日），他们以抗粮为号召，左宗棠建议张亮基让江忠源在过蕲（qí）州时，打败了起义军的多次攻城，以“保卫身家”、“防寇”为名，以往“所用之兵。
张亮基的奏折未被采纳，认为这样官绅士民联为一气，自可办理妥当。
密谋镇压征义堂
征义堂与地主团练的斗争，不仅惊动了湖南省最高当局，再以请置战舰、练水师的奏章上奏朝廷，命湖南巡抚密查速办。这时，太平军已撤出湖南，巴陵曼仲武起义也被镇压下去。张亮基接旨后，命令江忠源以搜捕曼仲武余党为名，率楚勇开赴浏阳。1853年1月22日，江忠源率楚勇进驻浏阳县城东冯家山，布置就绪后，贴出告示，首先对征义堂实行分化瓦解。
此时，太平军虽然离开湖北，但湖北各地的人民在太平天国起义的影响下，反抗运动仍连绵不断。左宗棠全身心地协助张亮基，一一予以镇压。清廷在震惊之余，兵锋直逼南京。这时，左宗棠商请张亮基，派江忠源前往镇压。