咸丰八年5月19日，李续宾、杨岳斌率水陆两军攻陷九江，7月13日，接咸丰谕出办浙江军务，救援福建，12月，作《爱民歌》以训湘军。

咸丰九年11月，拟四路进兵之策，攻取安庆，多隆阿、鲍超攻取桐城，胡林翼攻取舒城，李续宜攻取庐州。

咸丰十年2月，破陈玉成于太湖，由于两江总督何桂清放弃常州而奔上海，导致苏州、常州失陷。

4月，清廷命其马上赶赴江苏，并先行赏加兵部尚书衔，署两江总督。

6月，实授两江总督，以钦差大臣身份督办江南军务，7月，命皖南军务归他督办。

咸丰十一年9月5日，湘军攻陷安庆，9月25日，移住安庆，12月20日，加太子太保衔，奉旨督办四省军务，其巡抚、提镇以下悉归节制。

同月，在安庆创办内军械所，年底，定三路军进军之策：“以围攻金陵属之国荃，而以浙事属左宗棠，苏事属李鸿章，于是东南肃清之局定矣。”

同治元年1月31日，曾国藩奉旨任两江总督协办大学士，曾国荃补授浙江按察使。

2月14日，左宗棠率军由江西入浙江，4月，李鸿章率军抵上海，五月，曾国荃率军进驻雨花台，会同彭玉麟的水师围攻天京。

6月，洪秀全命令各地太平军回援天京，太平军集结二十万人兵力，10月起大战湘军四十多天，未能取胜。

同治三年正月，攻克钟山，合围天京，7月，湘军攻破天京，对无辜平民展开屠杀与抢掠。

当时的南京城被烧毁，平民死伤无数，南京人称曾国藩、曾国荃兄弟为“曾剃头”、“曾屠户”。

同月，朝廷加曾国藩太子太保、一等侯爵，世袭罔替，并赏戴双眼花翎，8月，曾国藩奏准裁撤湘军25000人。

同治四年1月，选汉唐以来各臣奏疏17首，编《鸣原堂论文》，3月，主持修葺种山、尊经两书院。

曾国藩收养八百孤寒子弟，并从自己养廉银中捐款课奖，5月26日，曾国藩率军赴山东剿捻。

6月，主持整理《王船山遗书》完稿，共320卷，交金陵书局出版。

18日，北上剿捻之策：重镇设防，划河圈围，清野查圩，马队追踪，9月，经扬州、清江浦抵徐州，一路调兵布防堵围，沿途又张榜招员。

10月，将金陵制造局迁上海虹口，和李鸿章原设的炮局及购自美国人的铁厂合并，再加容闳购回的百多部机器建成江南制造总局。

12月，核定长江水师永远章程及营制营规，同治五年，奉旨进驻周家口，以钦差大臣的重权身份，督师剿捻。

根据捻军行踪不定、流动作战的特点，采用了“重点防务、坚壁清野和画河圈围”的对策，但最终全部失败。

后来，他在周口西至漯河建立起“沙河百里防线”，希望借此天堑消灭捻军。

同治六年3月，在江南制造总局下设造船所试制船舰，同时拟设译书馆。