在完成了江蘇的一系列部署之後，曾紀澤于1864年1月1月率淮軍誓師西征。除嘉興三個團、徐州兩個團、胡雪參訓導師鎮守江蘇之外，淮軍此番西征兵力達十一個團，三萬五千人之眾，是為淮軍成軍以來，出師之盛，前所未有。
淮揚水師主力艦隊，大小艦船及新式炮艦，共七十余艘，隨同西征。淮軍與計劃兵分水陸兩路，沿江西進，沿途掃蕩太平軍殘部，攻城掠地，于1月中旬抵達了金陵，與曾國荃部一起，加入圍城之戰。
天京，忠王府。
李秀成怒氣沖沖的回到了府中，一進大堂，就將手中的配刀拔出，狠狠的砍向面前的檀木椅子，幾番揮刀，將那椅子砍了個粉碎。
「天王息怒。」跟隨在後的親兵隊長賀城棟從旁勸阻。
李秀成一腔的怒火無處發泄，他像是一頭發了狂的獅子，听不進任何勸言，他瘋了一般狂舞著手中的刀，將這大堂毀了個干淨。
旁邊的一干侍女們嚇得魂不附體，不知所從，賀城棟急向她們使了個眼色，叫道︰「快去請王妃來。」
侍女匆匆奔回內室，過不多時，一位容貌中等，卻端莊慈祥的婦人急急忙忙的奔了來，她一見李秀成這般模樣，先是一驚，隨後便沖了上去，硬是奪下了他手中的刀，柔情勸道︰「王爺，快把刀放下，小心傷了自己身子。」
李秀成似乎很听得進這位王妃的話，很順從的被她奪下了刀，又被她扶著坐下。他這一番狂亂耗了不少體力，這時像月兌了力氣一般，斜坐在被他劈得只剩下一半的椅子上，只是大口大口的喘著粗氣。
忠王妃不明就里。邊吩咐下人趕緊拿茶來，邊向賀城棟問道︰「這到底是發生了什麼事。王爺怎的會發這麼大的脾氣。」
賀城棟頓時恨咬牙切齒，憤憤不平的說道︰「今天在殿上，姓洪地幾位王爺誣陷咱們王爺，說王爺們收買民心，圖謀奪權，他們還罵王爺是奸臣。更可氣的是，天王也信了，竟然當著滿朝文武地面斥責王爺由忠變奸，王爺當時就氣得差點沒背過氣去。」
忠王妃听完解釋，滿心替李秀成覺得委屈。便是勸道︰「王爺，天王被那幾個洪姓王欺瞞，總是責難王爺。我看王爺也不必留在天京受氣了，明天咱們就想辦法離城與叔叔他們相聚吧。」
忠王妃指的叔叔便是侍王李世賢。盡管他的封地浙江已在部淪于左宗棠楚軍之手，但他還保有數萬人馬，坐守著十幾座城池。
李秀成發泄完怒氣，思緒漸漸恢復了冷靜，他思前想後，斟酌了半天，長嘆道︰「罷了。罷了，既然天王這般不信我，我留下也沒什麼意義，就听愛妃的，咱們走吧。」
賀城棟道︰「現下天王將天京各門都劃歸洪姓王爺們把守。王爺要想出城，只怕他們不會放行呀。」
李秀成奮然而起，怒道︰「本王離城正是合了他們的心意，他們若還敢阻攔，真就當本王是好欺負的麼！」
李秀成遂命賀城棟召集天京城中他的近三千嫡系人馬，由北面太平門出城而去，有敢阻攔者，他就強行殺出去。
王府中人一听說忠王要離天京，上下頓時忙成了一團，收拾東西。整理細軟。忠王妃光衣服就裝了五大車。再加上府中所藏金銀珠寶，古玩綢緞。足有三十車之多。
也不知是誰將忠王要離城的消息傳了出去，金陵城內一時人心慌亂，附近的百姓扶老攜幼，自發的聚集在了忠王府前，不出一個時辰便有數千人之眾。
這些百姓全跪在王府前，或是嚎陶大哭，或是磕頭不止，眾人盡皆央求忠王不要棄他們而去。
王府門前擠了這幾千號人，將近把一條街都堵得水泄不通，那三十多車地細軟，根本連動都動不了。李秀成無奈之下，只得出了王府，親自來見這些請願的百姓。
眾人一見李秀成的面，頓時起來，嚎的比原來更響亮，磕頭地咚咚撞地，哀求哭留之聲，只怕半個金陵城也能听得見。
李秀成見了這般場景，一顆心頓時軟了三分，他忙將跟前的一位老人家扶起，朗聲向眾人道︰「各位兄弟姐妹，天京糧荒已久，秀成此番離去，只是想多籌集些糧食，再回來解天京之困。還請你們理解，放一條路讓秀成離去吧。」
此番話一出，眾人哭得更是聲嘶力竭，只是不肯讓路。那骨瘦如柴的老者撲 又跪了下來，抱著李秀成的腿哭道︰「王爺是天國的頂梁之柱，王爺若是去了，這天京哪還能守得住呀。王爺你仁愛萬民，就忍心把我們留給清妖的屠刀嗎，王爺，你不能走呀。」
李秀成著實被這些百姓愛戴所感動，他眼眶中竟是含起淚水，眼睜睜的看著跟前地人們，猶猶豫豫不知該說些什麼。
身旁的忠王妃見李秀成有反悔之意，急是從旁勸道︰「王爺，時間不早了，咱們趕緊上路吧。」
這話被那老人听了去，他回頭向眾人呼道︰「王爺就是咱們的救星，他若執意要走，咱們就在這里給他磕頭送別，直到磕死為止吧。」
在他的號召之下，幾千人山呼海嘯般的狂撞起了地，此起伏彼地磕頭聲，匯聚起來，竟如戰鼓一般震懾人心。頭破血流，仍不放棄，鮮血染紅了地面，一個個饑餓瘦弱的身軀，不斷的停在血泊之中。
李秀成為此情景所震撼，他的一顆離去之心，徹底的被這些無助絕望的人們所擊倒，他仰天長嘆了一聲，心中想道︰「莫非天意如此，我李秀成注定要與這天京一同覆亡嗎？」
感慨良久，他苦笑著向眾人高喊道︰「秀成能得你們的信任，死亦無憾了。我決定留下來，與天京共存亡。」
話音一落。絕望的百姓們仿佛在滾滾淵流中抓到了最後的一根救命稻草，他們暫時忘卻了悲傷，盡皆歡呼雀躍，大呼「忠王千歲，忠王千歲」。
忠王妃百般無奈，一聲怨嘆，轉身拂袖回府。李秀成享受著萬民的擁戴，臉上雖是一副欣慰之狀，私下是是暗暗搖頭。
曾紀澤地兵分兩路，一部分自上海搭乘淮揚水師溯江而上。一部分由蘇州出發，先往鎮江，再往金陵。曾紀澤命水師先行，而他則趕往蘇州。與已在那里休整多時地吳長慶、潘鼎新等人會合。另一方面，他也要在離開江蘇之前，與李鴻章有一個會晤。
李鴻章道︰「大公子，此番西征，凡事千萬要小心謹慎。九帥那方面，還是要與之協調好，免得到時出了不必要地糾紛。」「還用得著協調麼。我們早就串通一氣了。」
曾紀澤並沒有回應李鴻章地囑咐，卻反問道︰「少荃，你就任蘇州知府差不多也快有半年了，最近可在蘇城的街頭巷尾听到些什麼傳言嗎？」
李鴻章一怔，想了片刻。道︰「傳言倒是听到一些，現在街到到處是風傳，說是有人在太湖中見到一青一橙二龍相斗，橙龍勝而上九天，青龍敗而沉湖底。這傳言玄之又玄的，也不知是真是假。」
「青龍……橙龍……」曾紀澤似在思索，卻又不得解，問道︰「若果有此事，說不定是上天有所征兆，少荃你博古通今。可知這青龍、橙龍所寓何意嗎？」
「龍者。至尊也，青龍、橙龍。莫非是……」李鴻章話說一半，笑而不語。
這什麼雙龍的傳聞，完全是曾紀澤的杰作，無非是想為不久之後起事做些「天意」輿論宣傳。他知李鴻章乃當世奇才，又豈會不知那雙龍是何寓意，只是他這人聰明的緊，凡事都先想著把自己置于安然之境，這時雖體察到了曾紀澤的用意，卻偏不明言。
李鴻章雖不掌兵權，但他跟隨著曾紀澤創立淮軍，幫著他建起人才匯聚的幕府，諸多的人事任命，他也參與其中，可以說，李鴻章在江蘇官府以及淮軍中地影響力是不容忽視的。
曾紀澤今日的用意，就是非要李鴻章表明態度不可，否則，他決不會在離蘇之前，將這麼一個立場不明的有影響力人物留在大本營中。盡管他已安排胡雪參地一個團駐守蘇州，對李鴻章和這座蘇南重鎮予以嚴密的監控，但曾紀澤還是不想留有任何顧慮前往金陵。
曾紀澤見李鴻章不答，便隨手端起了茶杯，連飲了三口，一旁的白震山看在眼里，神情頓時緊張了起來，手悄悄的放在了配刀上。
就在這大廳之外，曾經澤已安排下了大刀隊的一百多親兵，胡雪參的那個團也是嚴陣以待。曾紀澤事先已與白震山有所約定，若然李鴻章心有不從，則以摔杯為號，大刀隊沖入，當場將李鴻章正法，同時胡雪團立刻行動，清除李鴻章安排在蘇州的心月復官員。
曾紀澤甚至連新一任地蘇州巡撫也選好了，就等著李鴻章做出決定。在這一刻，這位歷史上著名洋務派領袖的生死，就全決于他的一念之間。
「莫非什麼？」曾紀澤閑然而問，手中茶杯卻握得更緊了。
李鴻章倒沒急著回答，他便拿起桌上的水煙，不慌不忙的點了火，優哉游哉地輕吸了幾口，大廳中頓時煙氣彌漫。
「咳」曾紀澤輕咳了幾聲，這麼多年了，他還是無法適應這水煙嗆人的開味道。
曾紀澤知道，李鴻章是在故作鎮定，其實他的內心之中，此刻八成已是排山倒海。他擺出一副比李鴻章還要閑庭信步的神態，笑著說道︰「少荃，這個問題很難回答嗎？它很讓你緊張嗎？」
李鴻章一怔，道︰「大公子怎麼看出我緊張了，我覺得我現在很淡定的。」
曾紀澤冷哼一聲︰「少荃你莫非忘了，你曾經和我說過，你這人只要一緊張就想抽水煙。這一鍋煙你幾下就抽干了，看來你還真的緊張的很厲害。」
李鴻章哈哈大笑︰「知我者，非大公子莫屬呀。」他將水煙放回了桌上，起身在這大廳中來回踱起了步。
就在曾紀澤已漸漸沒有耐心，要舉起杯起，他忽然說道︰「大公子，其余人都不足為懼，唯有洋人的態度是至關重要的。上海乃洋人勢力最盛之地，而咱們的武器制造局，江南制造局又都建在那里，萬一洋人強行控制了這兩個廠子，只怕介時對淮軍地武器彈藥供應會有不小地影響呀。」
曾紀澤松了口氣，李鴻章雖未明言，但這幾句話卻是無疑表明了態度，並且還切中了要點，這在之前是曾紀澤所沒有考慮過的。
曾紀澤道︰「少荃，你能說這一番話，我真地很感欣慰呀。李鴻章正色道︰「老師對我有知遇之恩，大公子你對我有提攜之恩，我李鴻章非是那種知恩不圖報之人，其實大公子你根本不用猜忌，我李鴻章自然是會站在你們這邊的。」
曾紀澤重重點頭，表示認可，又道︰「少荃的心意如何，我當然明白。此番西征，正是要決定大事，我身邊怎麼能缺了少荃這樣的智謀之士，這樣吧，蘇州府的政事你暫且放一放，隨我一同去金陵吧。」
曾紀澤覺得有必要把李鴻章帶在身邊，不過這倒令李鴻章頗感意外，他似乎是有幾分不情願︰「蘇州的重建正在重要關頭，土改方面還有很多問題要處理，我只怕這麼一走，這副攤子下面的人不好處理呀。」
曾紀澤不以為然︰「我相信少你荃選拔下屬的眼光，小事他們應該能夠處理，至于大事嘛，我想金陵與蘇州距離並不遠，咱們有輪船來去如風傳遞信息，你大可在金陵處理公務的。
李鴻章的借口被曾紀澤輕易推翻，無奈之下，只好選擇隨曾紀澤大軍一同前往金陵。
曾紀澤也因李鴻章的提醒，決定將上海武器制造局一半以上的步槍生產車間，以及整個機槍車間全部搬到了蘇州，成立了蘇州槍械局。
至于還在建設中的江南制造局，工程最為浩大的船廠，曾紀澤讓其繼續在原址建設，至于一些直接影響到戰局的廠子，如炮局、子彈廠、修船廠，則改遷到蘇州抓緊時間搶建。
上海的商人們顯然還無法領會到曾紀澤這樣做的用意，但因韓殿甲代表的官府擁有著大部分股權，故在股東大會上，強行通過了江南制造局部分遷移至蘇州的決定。