吳佩孚被張作霖打敗以後，只帶了幾千殘兵逃到南方。在失去嫡系部隊以後，吳佩孚權勢大不如前，所以南方直系地方軍閥對吳佩孚並不歡迎。比較典型的是湖北督軍蕭耀南。

蕭耀南本來是吳佩孚部下，直系取得湖北省地盤以後，蕭耀南被任命為湖北督軍。但是在吳佩孚到湖北以後，蕭耀南卻態度冷淡。

吳佩孚成為南方直系聯盟的盟主，只是因為張作霖派兵南下，奪取了山東、安徽、江蘇三省，直接威脅到了地方軍閥的利益。為了抵禦奉系軍閥南下，才組成了這個聯盟，推選吳佩孚為盟主。

利用這個聯盟，吳佩孚確實掌握了部分部隊，主要是湖北省的直系部隊，還有一些他在河南的舊部，湖南等地一些軍閥也依附於他，但是這個實力和當初是沒法比的。

而在這個聯盟裏，還有一個僅次於吳佩孚的孫傳芳。此時孫傳芳掌握的部隊比吳佩孚更多，他推舉吳佩孚當盟主只是因為自己資歷不夠，需要吳佩孚這個招牌而已，但是實際上並不服從吳佩孚領導。

在擊敗奉系奪取江蘇和安徽以後，孫傳芳自封五省聯軍總司令，實力更強。同時，由於吳佩孚轉而和奉系聯合共攻擊馮玉祥，這和孫傳芳聯合馮玉祥反奉的打算衝突，孫傳芳在後期已經和吳佩孚分道揚鑣。

而吳佩孚雖然一度和奉系一起擊敗了馮玉祥所部，但是此時他的實力和奉系差距太大，而且此時廣州國民政府發動的北伐已經開始。

所以吳佩孚無力也無心和奉系爭奪中央權力，最後倉促南下迎戰北伐軍，最後再次兵敗，不得不黯然下野。