一、曾國藩的領導
曾國藩（一八一一至一八七二），為湖南湘鄉人，長洪秀全三歲，同係來自耕讀之家。在早年功名途上，他較洪秀全順利，二十八歲中進士，成翰林，三十四歲官禮部侍郎。平生究心義理與經世致用之學，是一位道統名教的擁護者。他亦不滿時政，殷望有所改革。鄉人友好中和他抱同感的大有其人，均以事變難免為慮。道光、咸豐之際，湖南、廣西亂作，舉人江忠源為綏靖地方，首起楚勇，助官軍平新寧事變。一八五二年，邀擊太平軍於湘、桂之交，繼之力保長沙省城。湘鄉諸生羅澤南踵行其事，別立湘勇。一八五三年一月，太平軍北入湖北，有燎原之勢，清廷正式授曾國藩以幫同湖南巡撫團練，搜查土匪之任，以補正規軍的不足。他因母喪正在籍守制，不欲任事，和他交稱莫逆的郭嵩燾說以乘時自效，澄清天下，兼保桑梓。他亦鑑於武昌不守，關係甚大，始赴長沙籌劃。
到長沙的第二日，提出他對團練的主張，謂團練應由地方紳耆董理，搜查土匪應由巡撫派兵剿捕。太平軍凶焰已熾，湖南兵力單薄，不足守禦，決在省城成立大團，招募壯健樸實的鄉勇，認真操練。官軍之不堪任戰，有目共睹，必須改弦更張，而以練兵為要。易言之，他要編組一支新軍，與太平軍對抗。咸豐批示，要他悉心辦理，以資防剿，原則上無異認可。是後他給友人信中，屢有馳驅中原，蕩平賊氛，蕩滌群醜，掃蕩廓清之言，可見他一開始即抱負不凡。
新軍不僅須針對綠營之弊，亦須兼取敵人之長，成為確能戰鬥的部隊。綠營的最大弱點，為營伍習氣與調遣成法，太平軍之善戰在於團結堅固。曾國藩認定今日將欲滅賊，必先諸將一心，萬眾一氣，呼吸相顧，痛癢相關，赴火同行，蹈湯同往。勝則舉杯酒以讓功，敗則出死力以相救。賊有誓不相棄之死黨，吾官亦有誓不相棄之死黨，應可血戰一二次，漸新民之耳目。他的新軍通稱湘軍，具有以下幾個特點：
一、人員：先求志同道合，質直而有血性、忠義而曉軍事的儒生為將。他說帶勇須智深勇沉之士，文經武緯之才，第一要才堪治民，第二要不怕死，第三要不急急名利，第四要耐受辛苦，也就是有信仰，肯犧牲。然後盡募新勇，不雜一兵，以樸實而少心竅的鄉農為尚，不取浮華之輩，擯斥滑弁遊卒及市井無賴。
二、編制：十人或十二人為一隊，什長一人；八隊為一哨，哨官一人；四哨為一營，統於營官，每營官兵五百人（初為三百六十人），合數營，或數十營置一統領。成軍之初，大帥選統領，統領揀營官，營官揀哨宮，哨官揀什長，什長挑勇丁。全軍自上而下，非親族故舊，即同鄉同里，將帥相能，兵將相習，弁勇視營哨，營哨視統領，統領視大帥，皆如子弟之視其父兄。
三、訓練：兵勇必須苦心精練，陣法技擊固要逐日操習，精神紀律同樣注意，他所編的莫逃走、要齊心、操武藝歌詞，雖為勸告鄉民自衛，亦可施之營伍。同時更要愛民，每隔五天集合教導，反覆開說，千言百語，但令勿擾百姓。練者其名，訓者其實。冀其不擾百姓，以雪兵勇不如賊匪之恥，而稍變武弁漫無紀律之態，並使其相激相劘，忠義奮發，一德一心，以畏難苟活為羞，克敵戰死為榮。
四、待遇：餉銀不裕，不足以養將弁之廉、作兵勇之氣。新軍勇丁每人月銀四兩二錢（後增為四兩五錢），較綠營提高一倍有餘。餉源最初來自捐輸及藩庫，其後則以百貨釐金為主【註：釐金係仿照兩湖會館的提釐籌款辦法，大概係就所屬同鄉的商貨中抽收百之一。一八五三年七月，江北大營始於揚州附近仿行，以助軍需，湖南大約不久亦予採用，倡之者為代曾國藩勸捐最力的郭嵩燾。第二年江蘇加以推廣，一八五五年，遂及於用兵各省】，次為鹽釐。
如以楊秀清、蕭朝貴的《奉天討胡檄》代表太平軍的主義，曾國藩的《討粵匪檄》【註：一八五四年二月二十五日發】，可說明湘軍的立場。太平軍是為開創王朝而戰，為實現一種理想而戰，曾國藩是為衛護道統名教而戰，為傳統文化而戰。勤王之義，雖在名教之內，但他不過分強調，對太平天國種族思想，亦避開不提，此有其難言之隱。
檄文的第一段，痛斥太平軍的殘暴，以地域觀念打動長江流域之人，並煽動身陷太平軍者，以分化所謂新兄弟（在長江各省新加入者）與老兄弟。他說，太平軍所過，船隻無論大小，人民無論貧富，概搶掠罄盡，男女備受荼毒，而粵匪自處於安富尊榮，視我兩湖、三江被脅之人，曾犬豕牛馬之不如，此其殘忍慘酷，凡有血氣者，未有聞之而不痛憾者。第二段痛斥太平軍，破壞倫理秩序，以名教觀念打動知識分子。不過他對太平天國的宗教，所知尚欠正確，他說：中國歷世聖人，扶持名教，敦敘人倫，太平軍崇外夷之教，上下皆以兄弟姊妹相稱。農不能自耕，商不能自賈，田皆天王之田，貨皆天王之貨，士不能誦孔子之經，而又別有所謂耶穌之說、《新約》之書，舉中國數千年禮儀人倫，詩書典則，一旦掃地蕩盡。此豈獨我大清之變，乃開闢以來名教之奇變，我孔子、孟子之所痛哭於九原，凡讀書識字者，又焉能袖手坐觀，不思一為之所？第三段痛斥太平軍毀污廟宇，以神道觀念打動一般鄉民。他說：自古生有功德，歿則為神，雖亂臣賊子，亦敬畏神祇。太平軍焚燒學宮廟宇，忠臣義士如關帝、岳王亦被污殘，此又鬼神所共憤怒，欲一雪此憾。最後申明，他的使命在救民衛道，救被擄船隻、人民，紓君父之憂，慰孔、孟人倫之痛，報生靈之仇，雪神祇之憾，希望忠義之士，共同奮起，被脅被陷者，自拔來歸。
二、湘軍東征
曾國藩的新軍，初以羅澤南的湘勇為基礎，再加部分楚勇及新募之眾，共約四千人，其後續有增加。一八五三年九月，曾國藩移駐衡州，以避長沙綠營官兵的尋釁滋鬧，兼就近剿辦南路土寇，並興治水師。太平軍順江東下及回師西征以來，擁有大小船隻近萬，飄忽靡常，沿江州邑，不戰即得，清軍無船，防不勝防，追擊不及，束手無策。曾國藩從郭嵩燾之議，開始置辦船炮。兵勇來自湖南，工匠來自廣西，砲位置自廣東，大都為西洋所製。此為日後湘軍奪回長江控制權，阻斷太平軍的水上交通，攻克兩岸城池的關鍵所在，有關於雙方勝負極大。
一八五三年十一、十二月間，西征太平軍進入湖北，安徽情形亦急，清廷連促曾國藩赴援。曾以戰船尚未辦齊，湘南土匪尚未肅清，須待水師能自成一隊，與陸師並進夾擊，否則不能草草一出。一八五四年一至二月，江忠源及湖廣總督吳文鎔相繼敗歿，太平軍三佔漢陽、漢口，圍攻武昌，湖南震動。此時湘軍水師已成，大小戰船三百餘隻，水勇五千人，合陸師將弁兵勇夫役共一萬五千人，炮五百尊，以民船百餘號載米煤油鹽，於二月二十五日出動。全軍每月需餉八萬兩，由湖南、江西、廣東、四川供應。初與太平軍角逐於湘北，陸師敗於岳州，水師潰於長沙以北的靖港，但另隊則大捷於湘潭，不僅士氣一振，長沙亦免於夾擊。經過整編訓練之後，湘軍二次出擊，七月，肅清湖湘。時武昌已於六月再失，十月為湘軍克復，並及漢陽、漢口，這是出乎清廷意料的一大勝利。十一至十二月，再捷於鄂東田家鎮、半壁山，水師直抵九江，太平軍船隻損失至大。
一八五五年初，太平天國翼王石達開率援軍西來，湘軍一再受挫。漢陽、漢口、武昌又復不守，武漢至天京全入太平軍之手。曾國藩退往南昌，湘軍首尾不能相顧，決定由湖北巡撫胡林翼及羅澤南規取武漢，日久無功【註：一八五六年四月，羅澤南戰歿，李續賓代領所部】。一八五六年石達開合自粵北來的天地會黨，及北王韋正，連佔江西八府五十餘縣，南昌幾乎不保。
三、天京內變
太平天國定都南京不久，清欽差大臣向榮的追擊軍跟踪而至，屯紮於城東南郊，號為江南大營，兼統鎮江軍，屏蔽蘇、常的產米區。另一軍屯紮揚州城北郊，號為江北大營，屏蔽淮海的產鹽區。是年（一八五三）冬，太平軍退出揚州，仍據運河口的瓜州。江南大營聲勢頗盛，雖久攻天京無功，終為太平軍肘腋之患。一八五六年，楊秀清乘上游軍事勝利，先擊破鎮江城外及揚州之敵，再猛撲江南大營，向榮敗死，天京解圍。長江上下，太平軍無往不利，皖北的捻勢亦張，囊括江、淮，似為指顧間事。就在此時，天京連續發生自相殘殺的內變，湘軍始得喘息的機會。
楊秀清假託天父下凡以來，取得了宗教、軍事、政治大權，跋扈專擅，視洪秀全如無物，動輒凌辱，對韋正、石達開、秦日綱更是頤指氣使。韋正、秦日綱且嘗受杖責，積怨已非一日。以大敵當前，隱忍未發。早在一八五五年，《賊情匯纂》的編者已經洞悉此一危機，謂楊秀清叵測奸心，實欲虛尊洪秀全而自攬大權，獨得其實，甚或意欲仿古之權奸，萬一事成，則殺之自取。又云：楊賊與昌輝（韋正）相互猜忌，似不久必有併吞之事。
天京解圍，上游軍事得手，楊秀清野心愈熾，又詭為天父下凡，脅迫天王，由九千歲進稱萬歲。一八五六年九月，韋正、秦日綱以迅雷不及掩耳的行動，殺死楊秀清，天京混戰經月，楊黨死者二萬餘人，此為天京第一次內變。十月，石達開自湖北趕回南京，責韋正不當濫誅。韋正一不做二不休，準備將所有異己，一併芟除，石達開縋城而逃，此為天京第二次內變。此後韋正仍然不分皂白，屠殺不止，懸賞購拿石達開，人人自危。十一月，石達開集兵東討，洪秀全與天京文武合誅韋正、秦日綱，此為天京第三次內變。十二月，胡林翼乘機克復武漢，底定湖北，湘軍不再有返顧之憂，並有了穩固的後方，餉械委輸不絕，傷病休養得所。
石達開是太平軍中傑出的軍中政治人物。曾國藩屢說他最悍、詭譎，挾詭詐以駛眾，假仁義以要民。左宗棠亦稱其狡悍著聞，素得群賊之心，其才智出諸賊之上。而觀其所為，頗以結人心、求人才為急，不甚附會邪教俚說，是賊之宗主，而我之所畏忌也。韋正死後，石達開掌理政務，攻守兼施，重用青年將領陳玉成和初露頭角的李秀成，聯結捻眾，攻略皖北、鄂東，穩定了太平天國的局面。洪秀全以飽嚐楊、韋之苦，不信外臣，專任他的無才無能的胞兄洪仁發、洪仁達。一八五七年六月，石達開以遭洪氏兄弟仁發仁達的疑忌，出走安慶，轉赴江西，別圖發展，實際上已與洪秀全脫離關係，自樹一幟，此為天京第四次內變。石達開出走後，鎮江不守。洪氏兄弟專恣愈甚，人心不服，各有散意，曾國藩以為年內即可攻下金陵。洪秀全的政權之得以延續，一以傳聞清軍對於廣西籍的太平軍一概不赦，惟有死裡求生，抵抗到底；二以陳玉成、李秀成忠勇善戰，艱苦支撐，太平軍的威勢為之再振；三以清廷始終心存滿漢之見，對於曾國藩未能真正信任，畀以全權。
四、太平軍的重振
一八五八年，清欽差大臣和春及張國樑【註：張國樑即原擾廣西的天地會首領張嘉祥，後歸向榮，向榮敗死，改隸和春】的江南大營復進至南京城下，對江的浦口為江北大營，天京再度被困。上游湘軍李續賓亦攻下扼長江咽喉的九江，江西各城多為湘軍所得。李續賓乘勝進軍皖北，陳玉成、李秀成聯合奮戰，先破江北大營，再破湘軍於皖北三河鎮，李續賓全軍覆沒，這是太平軍在頹勢中的重大勝利。此後陳玉成當長江上游，保衛安慶，抵禦東下的湘軍，李秀成當長江下游，保衛天京，對抗江南大營。
一八五九年，留居香港五年的天王族弟洪仁玕到了天京，立被重用，封為干王，總理機務，陳、李亦分封為英王、忠王。洪仁玕頗有新知，擬定了一套改革計劃，名曰《資政新篇》，備論政教方策，世界大勢，主張採用新的制度及科學技藝，器使群材，賞罰嚴明，以期振奮人心。他的建議要旨是權歸於一，改革風俗，仿行西法。在所列舉的具體事項中，值得注意的有設書信館、新聞館、醫院、市鎮公所、鄉兵（警察）、興辦鐵路、銀行、工藝、礦務。除新聞館外，天王均認為應行，但究屬紙上空談。第二年，中國第一位留學美國的容閎【註：容閎（一八二八至一九一二）為廣東香山人，幼從西人學於澳門、香港，一八五四年畢業於美國耶魯大學】，建議改善軍隊組織，設立陸海軍學校、實業學校，釐定教育制度，建立良好政府，聘任有才能的行政顧問，開辦銀行，亦未能見諸事實。容閎在天京考察月餘，認為洪秀全實無建設一新中國的能力。
清軍顯然分為兩大集團，一為長江下游和春、張國樑所統的江南大營，由綠營組成。一即上游曾國藩、胡林翼所部，以湘軍為主力。江南大營號稱五六萬，核實不過半數，以長壕困天京，意謂大功早晚可成，將驕兵惰，終日酣嬉，不以賊匪為意，或樂桑中之喜，或戀家室之私，或群居縱酒酣歌，或日在賭場煙館。每四十五日僅發一月之餉，士卒怨望，揚言賊匪一到，我們即走。
忠王李秀成、干王洪仁玕，以天京久被圍困，改採機動戰略，以輕騎出皖南，直下浙江，拊江南大營之背，斷其餉源，分其兵力。一八六○年三月，李秀成襲破杭州。和春自江南遣兵來援，李秀成放棄杭州，星夜西返，會集所有兵力，包括來自皖北的英王陳玉成，分道猛撲江南大營。經過十天激戰，五月初，和春、張國樑全軍盡潰，天京再度解圍，是後兩年，城外無清軍踪跡。
七年以來太平軍的戰略是上游主攻，下游主守，東線始終不曾越過丹陽，太湖流域仍為清軍所有。天京二次解圍後，決攻取蘇、杭、上海，然後置辦輪船，再溯江而西。五月十九日，李秀成長驅而東，張國樑、和春敗死，人民爭殺清軍以迎。除了上海、鎮江，兩週之內，江南為所席捲。八月，進攻上海，未下，同時上游戰事轉急，太平軍遂陷於兩線作戰。
五、曾國藩總制東南
湘軍之未能乘天京內亂的有利時機，於奪回武漢之後，全力推進，不全由於力不從心，而是滿人對漢人的缺乏信任。湘軍初次克復武漢，某大臣反說曾國藩以匹夫崛起，從者萬餘，恐非國家之福，咸豐為之色變。曾的責任甚重，而權力有限，僅有一欽差兵部右侍郎虛銜。一八五七年三月，因父喪，奏請終制，頗有就此引退之意。七月，再請開缺，並瀝陳歷年辦事艱難竭蹶情形。一為對所部官兵僅能奏保官階，不能挑補實缺，事權不如提督、總兵。二為籌餉須經地方官之手，與督撫有客主之分，難以呼應靈通。三為奉命統兵未見明旨，時有譏議，所用木印關防，時常更換，州縣往往疑為偽造，號令難於取信。清廷竟准其所請。
曾國藩家居年餘，一八五八年，以石達開糾合江西太平軍東進，始再被起用，先命援浙江，繼命援福建。復命前往四川，最後，改援安徽，牽制上海太平軍，好讓和春獨收克復天京之功。一八五九至一八六○年間，曾國藩與太平軍英王陳玉成劇戰於安慶附近，歷時三月，所恃的是湖北巡撫胡林翼的支援。
江南大營二次崩潰之時，曾國藩、胡林翼、左宗棠正在安徽宿松會商全局。左宗棠說：天意其有轉機乎？江南大營將蹇兵疲，豈足討賊？得此一番洗盪，後來者庶可以措手耳。胡林翼認為否極而泰，剝極而復的時期已至，均以和春之敗為慶幸。胡料定北京勢必重用湘軍，曾國藩必可取得督符、兵符，結果只是要他迅速東援，不免沮喪。及蘇州失守，清廷環顧宇內，將帥之能，兵勇之眾，以湖南為最，除仰仗湘軍外，無別途可循。一八六○年六月，命曾國藩署理兩江總督，又兩月，實授，並命為欽差大臣督辦江南軍務，所有大江南北水陸各軍，均歸節制。從此他可以破格請將，放膽添兵，湖南集團滿意了，湘軍名副其實的代替了綠營。
為進兵東南，曾國藩移駐皖南祁門，留軍續攻安慶，以為將來克復金陵張本。不久英法進軍北京，詔令北援，對他又是一個難題。他雖曾有此請，似非出於真誠。他對曾國荃說：北援不必多兵，即吾與潤帥（胡林翼）二人中有一人，遠赴行在，奔問官守，則君臣之義明，將帥之識著，有濟無濟，聽之而已。又對胡林翼說：天下有理有勢，保江西、兩湖三省，勢也。吾輩就目前之職位，求不違乎勢，而不甚悖此理。也就是說，無論如何以鞏固現疆土為第一，北援僅是一種姿態。