上海派出的七艘英國商船在4月初駛抵安慶，迎接李鴻章的部隊。
李鴻章的淮軍先頭部隊在春節過後就陸續開到安慶集訓，共有四個營，即張樹聲的樹字營，劉銘傳的銘字營、潘鼎新的鼎字營和吳長慶的慶字營。
四營淮軍抵達安慶後，曾國藩召見各營將領，親自考察，並為淮軍訂立營製營規。
曾國藩擔心新建的淮軍兵力過於單薄，還從湘軍各部調兵借將，其中整營撥歸淮軍的有張遇春的春字營和李濟元的濟字營，太平軍降將程學啟的開字兩營；麻陽人滕嗣林和滕嗣武的湖南新勇林字兩營，以及後到的陳飛熊的熊字營和馬先槐的垣字營。
曾國荃的部將郭鬆林也轉入淮軍，立刻升為副將。
此外，曾國藩還送給李鴻章兩營親兵，分別由韓正國和周良才率領，作為“贈嫁之資”。
三十一歲的長沙人黃中元奉調從霆字營來到李鴻章的親兵營擔任營官，成為早期淮軍的中堅人物之一。
在這些湘軍部隊中，以桐城人程學啟的開字兩營作戰最為凶悍，士卒多係安徽人，其中包括丁汝昌。這樣，李鴻章初建的淮軍，就有了十四個營的建製，每營正勇五百零五人，長夫一百八十人，共計六百八十五人。
曾國藩於3月份由李鴻章陪同，檢閱已在安慶集結的淮軍各營，淮軍宣告成立。隨後，上海士紳雇用七艘英國商船，將淮軍分批由水陸運往上海。
李鴻章留下李濟元的濟字營駐防池州，因此分批乘船前往上海的淮軍共計十三營約九千人。
李鴻章率領第一批湘淮軍開赴上海，總兵力為五千五百人。輪船於4月6日開航，於4月8日到達上海，在城南紮營。
淮軍的後續部隊是李鴻章的三弟李鶴章在合肥故鄉招募的舊部團練，其中的將領包括內親李勝和張紹棠，昔年好友德模和王學懋，以及父親李文安的舊部吳毓蘭和吳毓芬等。這些東鄉團練，與西鄉周盛波和周盛傳兄弟的盛字營，都屬於第二批成軍的淮勇，後來從陸路陸續開赴上海。
李鴻章到達上海時，曾國荃正領兵從無為北上，進軍巢縣與和州。他命令劉連捷率部駐紮望城岡，自己率領六千人駐紮在巢縣東北。黃翼升和李成謀等人的水師部隊攻打銅城閘，陳湜等人率陸師會攻。兩軍攻占閘東和閘西的太平軍壁壘之後，乘勝攻克了雍家鎮。
4月18日，湘軍包圍巢縣。太平軍聽說銅城閘已被攻破，緊張萬分，打算撤退。曾國荃揮師躍登城牆，殺死幾名守城的太平軍。城內守軍驚擾，奪門而出。湘軍斬殺幾千人，攻占巢縣。
曾國荃揮師向北追殺，抵達含山，分兩翼包抄，大破從巢縣撤出的太平軍。含山城內的太平軍望見城外的兄弟部隊失利，不戰而逃。湘軍在同一天攻克含山。
多隆阿的部隊正在進攻廬州。陳玉成向天京求援，洪秀全派陳坤書和黃文金率大軍增援廬州，從九洑洲渡到江北，三天三夜駱繹不絕。太平軍順便攻克了李世忠沿江修築的三座壁壘。
在天京上遊的上士灣，太平軍渡江後集結到和州，適逢曾國荃的部隊已經到達巢縣與含山，準備向和州攻擊。清廷的大臣們認為可以趁機攻克天京，催促李世忠領兵攻取九洑洲，約好日子與湘軍會師。
李世忠趁機向清廷訴苦，說自己的部隊非常困乏，而江浦和浦口距離九洑洲隻有幾裏路，必須有八千人分別防守這兩座城市，還要有兩千人防守橋林，另有兩千人扼守小店和烏江。請求由江北糧台每月供給一萬二千人的軍餉，並增調一百幾十艘戰船趕赴浦口。
李世忠所部就在天京對岸，確實麵對著強大的對手。就在他訴苦的時候，江寧縣的太平軍渡到江北，攻擊他的部隊，占領了沿江的三座軍營，然後攻占江浦，分兵攻打六合，李世忠的部將守在城內，感到十分吃力。
清廷體諒李世忠的難處，命令吳棠撥餉。又考慮到湘軍距離李世忠的軍營不過四十裏，便把這支投降的部隊劃歸曾國藩節製。
苗沛霖的團練聯合太平軍和撚軍攻擊潁州，企圖為廬州解圍，賈臻多次上疏告急。成大吉和蕭慶衍從河南固始出兵增援潁州。苗沛霖懾於湘軍的軍威，派使者向勝保求降，並釋放黃鳴鐸以示誠意。
苗沛霖與撚軍首領張洛行素有嫌隙，勝保因勢利導，命令苗沛霖去攻擊撚軍，表示對清廷的忠心，並且請朝廷阻止湘軍前往潁州。但博崇武又說苗沛霖願意協助湘軍增援潁州，於是湘軍繼續挺進。
4月20日，曾國荃命令部隊東進，在水師配合下攻占和州城。然後，追蹤從和州撤退的太平軍，直到針魚觜。巢縣、含山與和州三城撤出的太平軍都集結在這裏，於是曾國荃召集陸師與水師合圍，將太平軍全部殲滅。
4月21日，蔡東祥率領水師攻克裕溪口。天門和博望兩山，也就是所謂的東西梁山，橫峙大江之中，太平軍將此天險當作門戶。曾國荃到達和州以後，便令李成謀、成發翔和蔡東祥等三支水師沿江西上，攻打西梁山。
曾貞幹率領陸師，其中包括黃潤昌的坤字營，攻克南岸的繁昌和南陵，鮑超則率部攻克青陽，接著攻克石埭和太平，太平軍一萬人投降。唐仁廉的仁字營已改屬鮑超統轄，參加了這一係列戰鬥。唐仁廉因戰功升任守備。
接著，湘軍攻攻克涇縣。彭玉麟的水師從中江而下，到達金柱關。
4月30日，張運蘭率部攻克旌德。
曾國荃的陸師聯合水軍，一起進攻太平軍在沿江的各個軍營。