1861年4月,陈玉成率军3万人进至安庆外围战略要地集贤关,逼近围城的曾国荃部。与此同时,天王洪秀全鉴于安庆吃紧,决定调干王洪仁玕、章王林绍璋会合桐城、庐江一带的吴如孝部共2万余人,进至安庆北面的新安渡、横山铺、练潭一带,连营15公里,谋与陈部会师,共解安庆之围。
4月29日,陈玉成与城内守将叶芸来分别率部扎营于安庆城东北的菱湖南北两岸,并以小艇沟通两岸联系,同时运粮入城。为巩固城内防守,5月1日英王陈玉成派部将吴定彩率1000余名精锐从菱湖大营突入安庆城内,自己则督军向围城湘军展开攻击,城内守军在叶芸来率领下亦向湘军发起反击。双方在城外激战一天,胜负未分,太平军伤亡较大,未能取得任何进展。
5月2日,陈玉成率军再次进攻。洪仁玕、章王林绍璋和吴如孝所部也同时向湘军挂车3防线发起突破。湘军多隆阿(唯一与湘军鲍超齐名的猛将,多龙鲍虎)部近万人分四路反扑,以三营步兵正面接战,五营步兵从侧翼攻击,又以骑兵迂回到太平军背后猛攻。太平军前后受敌,处境不利,洪、林所部又多是新募之兵,临阵惊慌,故而大败,伤亡很大,洪仁玕、林绍璋、吴如孝只好率军退守桐城。5月3日,自芜湖来援的太平军定南主将黄文金部7000余人(黄文金后封堵王,三年后在湖州会战中将大放异彩)和捻军2万余人赶到,扎营与桐城东南的天林庄一带与湘军对峙。
对于各路太平军先后集结于安庆外围,曾国藩等人也决心投入更大兵力与之决战。他曾告诫部将说:「安庆目前关系淮南之全局,将来即为克复金陵之张本,」「迅克安庆,大局乃有挽回之日,金陵乃有恢复之望。」确定了坚持但求力破安庆一关,此外决不计于争夺式的方针。为此,曾国藩将湘军悍将鲍超部(湘军第一名将,无败迹,尹隆河战役一战打趴捻军(太平新军))5000人自景德镇调往江北,自己则移营至江边上的东流就近指挥。坐镇太湖的胡林翼也调总兵成大吉部5000人赴援安庆,并提出了「南迟北速」的作战方针,即打洪仁玕、林绍璋等部宜速(战斗力较弱),打陈玉成部宜迟、宜慎重。一时间安庆外围战云密布,双方在安庆及其周围形成犬牙交错的阵线,形势极为复杂。安庆会战已经发展到超出争夺一城的意义,成了双方主力的一场大决战。双方都意识到此战是一场生死存亡的大搏斗,太平军失败,天京就失去了最后的重要屏障,太平天国日落西山的形势将无可挽回;湘军如果失败,不仅安庆包围圈被打破,安庆城下的湘军主力极可能全军覆没。因此双方在此都横下一心,必欲死争安庆,毕其功于一役。