因此，他对湘军进行了整顿。经查，湘军岳州大败，敢于同太平军进行抵抗的，只有彭玉麟一营。湘潭之战，浴血奋战的只有塔齐布两营、杨载福两营。曾国藩根据兵贵精而不贵多的原则，依据勇于战斗的条件，决定士兵的去留。他从明赏罚、严军纪做起，凡溃散之营便不再收集，营哨兵勇一律裁去不用。经过这番整顿和裁撤，留下的仅有水陆两部五千人。其弟曾国葆也在被裁之列，这对曾国葆的打击很大，多少年后还一直深居简出，拒见宾客。同时决定将王鑫留在湖南。命罗泽南跟随其出征。令塔齐布、罗泽南、彭玉麟、杨载福增募新勇，使湘军人数又扩至一万余人。在衡州、湘潭修造船只，与此同时，除湘军本身的扩充以外，将胡林翼的黔勇增募至二千，征调了登州镇总兵陈辉龙所率的船队和广西候补道员李孟群统率的船队，共计一千余人。在困境中持此种态度与行为的人必当是一个具备成功素质的人。至于能否成功，用曾国藩的观点，还要看“天意”了。
经过长沙整军以后，湘军能战能守，这与曾国藩努力改正自己的弱点有着极为密切的联系。
有失败才有成功，这是历史上许多成功者所总结的真理。一般而言，经过艰苦的磨炼或一系列的挫折，才更易使人具备成功的品质。因而，有许多追求大成功之人甚至不是先企求成功，而是先企求苦难。这里最主要的奥妙就是在于失败和逆境的土壤会创造出更多的成功品质。而具备了成功的品质，才能成功，这是再简单不过的道理了。
自知之明，就是要知道自己败在哪里，及时调整，就是要马上去掉不利成功的因素，发扬有利成功的因素。
曾国藩语录精粹：
困心横虑，正是磨炼英雄玉汝于成：李申夫尝谓余怄气不说出，一味忍耐，徐图自强，因引谚曰“好汉打脱牙和血吞”。此二语是余生平咬牙立志之诀，不料被申夫看破。
——同治五年十二月
6.在逆境中坚守
一个人无论如何伟大，相对于奔腾不息的历史而言，总是渺小的。就一个人的一生而言，也往往是逆境多而顺境少。对待逆境，曾国藩首先是承认现实，保存自己，不做以卵击石般的无谓牺牲。他说：我在《杂著》中专门引用《周易》的“否卦”，我对这一卦的卦辞有不同常人的理解：事业得不到发展，道路闭塞不通，是因为行为不正的奸佞之徒当道而造成的。奸佞当道，道德高尚、坚守正道的人是吃不开的。这种时刻，做什么事情总是失去的多，得到的少。
奸佞当道，小人得势，不会政通人和，事业会遭受损失。正派而能干的人很难展示才干、发挥作用的；如果直言或试图有所作为，不仅无济于事，反而会遭受陷害。大的方针政策不能变动，只好在具体工作的小地方做些补救。损失是不可避免的。曾国藩所讲的是“识时务”。
但是，如果一味顺从，人成为逆境的奴隶，也就不能改善自己的环境，更谈不到有所为了。因此，曾国藩从承认现实、识时务的角度出发，引申出逆境的第二种应对策略：练内功、求自强。曾国藩自谓“打脱门牙之时多矣，无一次不和血吞之。”可见其坚忍卓绝的意志，强毅不屈的气度。唯其时受挫折，经患难，故其德业也时有长进。对此，曾国藩说：“吃一堑，长一智”吾生平长进，全在受挫受辱之时。
曾国藩又说：就像《西铭》所讲的“没有地方可以躲避，只有等着被烹死，这就是晋献公世子申生的恭顺。勇敢地承认现实，又顺从命令的，只有伯奇能做得到。”这些话，太真切了。
曾国藩语录精粹：
“朱子之学得之艰苦，所以为百世之师”二语，深有感于余心。天下事未有不自艰苦得来而可久可大者也。
——咸丰十年八月
7.羽翼不丰不可高飞
曾国藩为人处事谨慎之极，他取法诸葛亮，他有几个“不做”，不是自己的责任的事情不做，利于自己不利国家的事情不做，条件不成熟的时候不做。其中最后一条最为重要。用他的术语，就是“毛羽不丰，不可以高飞”。
曾国藩初建湘军时，水陆两军加起来才有1万人，而这时的太平军正处于鼎盛时期，其武装经过两年战争的磨炼，已经成为精锐之师，而且人数重多，将近百万。曾国藩的区区1万人，与其相对抗，无异于以卵击石。
对于这一点，曾国藩心里十分清楚，因此，他坚持了这样的原则：军队编制不全不能出击，装备不良不能出击，训练不精不能出击。这种战略战策和太平军不同，太平军是实行人海战术，多多益善，曾国藩则没有从人数的多少考虑。他说“兵贵精而不贵多”。人多就难以练成精锐，而且也是当时的财政状况不允许的。他强调，练、训二字缺一不可，不但要在纪律、作战能力上过关，思想上也要过关。他曾经给手下的大将塔齐布和江忠源说过，只要一个人没有过关，他就不带这支军队上战场。在他的严厉要求下，湘军从开始建立起，其整体素质就要远远高于清廷的其他武装。
即使如此，曾国藩也没有立即投入战斗。他认为，湘军刚刚成立，还要经过一番磨炼才能真正担当起重任。但是朝廷已经等不急了，几次严令他率军出征。羽翼未丰，曾国藩坚决不同意。为了保护自己辛辛苦苦积攒起来的家底，他不惜数次抗旨，甚至当自己的老师、湖广总督吴文镕被太平军团团包围的时候，他仍旧铁下心来，见死不救，眼看着武昌被太平军攻破，老师自杀身亡。说曾国藩不近人情，也有道理，但是曾国藩考虑的是大局，他知道，如果自己出征救援，等待他的可能是全军覆没的结果。所以，他不能轻举妄动。
咸丰三年（1853），曾国藩计划练勇万人，壮大湘军的力量，使之成为能独立作战的方面军，他和心腹大将江忠源、好友郭嵩焘等人秘密商定，同时还要建立水师，以对抗太平军水军。
曾国藩为坚持“毛羽不丰，不可以高飞”的原则，不但违抗了咸丰皇帝的命令，而且也摈弃了师友的私人情谊。代价不可谓不沉重。
武昌第一次被包围的时候，曾国藩在接到咸丰皇帝的谕旨之前，已经接到了湖广总督吴文镕求援的密信。吴是曾国藩的老师，二人交谊非同寻常。老师有难，无论如何都是应该迅速赴援的。但是，曾国藩打定主意“见死不救”，不久，太平军西征军回师西上，吴文镕接连发信向曾国藩求援。曾国藩都予以拒绝，反复说明不能草草发兵的道理。吴文镕终于被其说服，虽知必死，仍令曾国藩万勿草革而出。
过早将自己的底牌亮出去，往往会在以后的交战中失败。羽翼未丰满时，更不可四处张扬。
《易经》乾卦中的“潜龙在渊”，就是指君子待时而动，要善于保存自己，不可轻举妄动。
曾国藩早在京城为官，深研《易经》，对“潜龙在渊”尤为加意。
1853年，曾国藩把练勇万人的计划告诉了爱将江忠源。江忠源不知深浅，立刻向清延合盘奏出，结果船炮未齐就招来咸丰皇帝的一连串征调谕旨。但是，曾国藩打定主意：船要精工良木，坚固耐用！炮要不惜重金，全购洋炮。船炮不齐，决不出征。他在给朋友的信中说，“剑戟不利不可以断割，毛羽不丰不可以高飞”。“此次募勇成军以出”，“庶与此据贼一决死战，断不敢招集乌合，仓促成行，又蹈六月援江之故辙。虽蒙糜饷之讥，获逗留之咎，亦不敢辞”。一时形成“千呼万唤不出来”的局面。
其实，清廷催曾国藩赴援外省，不过以湖南乡勇可用，令其前去配合绿营作战，以解决兵力不足的困难，这也是过去常有的事，绝非要他充当主力，独力担负与太平军作战的重任。所以当曾国藩在奏折中处处以四省合防为词，声言“事势所在，关系至重，有不能草草出者”时，咸丰皇帝即以讥讽的口吻在奏折上批道：“今览你的奏章，简直以为数省军务一身承当，试问汝之才力能乎否乎？平日矜诩自夸，以为天下人才没有超过自己的，及至临事，果能尽符其言甚好，若稍涉张皇，岂不贻笑于天下”。可见，咸丰皇帝对曾国藩是很不理解的，在他看来不过是无知书生的好高骛远和自我吹嘘，并非深思熟虑的举动。因而，咸丰皇帝再次促其“赶紧赴援”，并以严厉的口吻对曾国藩说：“你能自担重任，当然不能与畏缩者比，言既出诸你口，必须尽如所言，办与朕看。”曾国藩接到谕旨后，仍然拒绝出征。他在奏折中陈述船炮未备、兵勇不齐的情况之后，激昂慷慨地表示：
臣自知才智浅薄，惟有愚诚不敢避死而已，至于成败利钝，一无可恃。皇上如果责臣以成效，则臣惶悚无地，与其将来毫无功绩受大言欺君之罪，不如此时据实陈明受畏缩不前之罪。并进一步倾诉说：臣不娴习武事，既不能在籍服丧守孝贻讥于士林，又复以大言偾事贻笑于天下，臣亦何颜自立于天地之间乎！每到夜间焦思愁闷，只有痛哭而己。为臣请皇上垂鉴，怜臣之进退两难，诫臣以敬慎，不遽责臣以成效。臣自当殚尽血诚，断不敢妄自矜诩，亦不敢稍涉退缩。