段祺瑞重新上台，執掌政權後，全國輿論呼籲恢復第二次解散的國會，但遭到段祺瑞的拒絕。孫中山即於7月17日自上海率海軍南下護法，在廣州組織護法軍政府，開始了護法運動。此外，西南滇、桂軍閥在這個時候或者標榜自主，或者公開反對段內閣。段祺瑞急於擴充軍備，決心發動第二次南北戰爭，以武力統一中國。為此，他向日本大量借款，其中僅西原借款（由日本寺內正毅內閣的代表西原龜三經手，故名）就有八次之多，約一億四千五百萬日元，用以購買日本軍火，編練「參戰軍」。
袁世凱死後，以直隸河間人馮國璋為首的軍閥結成聯盟，世稱直系。直系的勢力當時主要在長江流域，江蘇督軍馮國璋、江西督軍李純、湖北督軍王占元，稱「長江三督」。馮國璋出任代理大總統，段祺瑞不無顧忌，但能將馮國璋調離他的勢力範圍，反倒容易對付。馮國璋也有他的打算，他表示可以北上就職，但必須以李純接任江蘇督軍，陳光遠為江西督軍，自己帶一師人馬入京。在這些條件滿足後，他才動身離開南京。馮國璋雖然當上一個沒有多大實權的總統，但新的「長江三督」則是他的外部力量。
馮國璋入京後，段祺瑞即以控制黎元洪一樣對他加以架空和利用；馮國璋當然力圖擺脫控制，當一個有名有實的總統。雙方的矛盾，亦即直、皖兩大派系的矛盾，造成了新的「府院之爭」。而相爭的焦點，是在對西南軍閥及廣東護法軍政府的政策上。段祺瑞主張「武力統一」，藉此擴充皖系的勢力；馮國璋主張「和平混一」，藉此討好西南軍閥，保護直系的利益，從而對抗皖系。
1917年8月，段祺瑞派傅良佐為湖南督軍，吳光新為長江上游總司令兼四川查辦使，調北洋第八、第二十兩師入湖南。湖南的爭奪戰，拉開了南北戰爭（護法戰爭）的序幕。馮國璋一面與西南實力派陸榮廷等暗中往來，互通聲氣，一面指使「長江三督」加以牽制。於是，陸榮廷在南寧召開兩廣援湘軍事會議，通電公開討段，出兵大舉援湘。長江三督則聯名發表和平建議，與西南軍閥呼應。
11月，正當湖南戰事繼續擴大之時，北洋軍第八師師長王汝賢、第二十師師長范國璋突然於11月14日發出通電，主張停戰議和。王、范兩將均系直隸人，與馮國璋關係良好，故有此舉。緊接著，長江三督以及直隸督軍曹錕聯名發表通電，響應停戰。形勢的突變使段祺瑞極為被動，只得以退為進，提出辭職。占了上風的馮國璋不失時機，於11月25日下令准免段祺瑞國務總理職，先以外交總長汪大燮代理，後又請出王士珍署理內閣總理兼陸軍總長。
段祺瑞解職，不過退居幕後，徐樹錚仍在前台活動，在他們的背後，有日本的全力支持。段祺瑞、徐樹錚於12月2日策動了北方十督：曹錕、張懷芝、張作霖、倪嗣沖、閻錫山、陳樹藩、趙倜、楊善德、盧永祥、張敬堯等齊集天津，舉行督軍團會議。12月6日，聯名電請北京政府明令討伐西南。馮國璋在督軍團的逼迫威脅下，只得表示讓步，下達討伐令。又任命段祺瑞為參戰督辦，段芝貴為陸軍總長，使皖系得以東山再起。此時，由馮國璋原先授意，李純與陸榮廷達成了諒解。陸榮廷提出恢復國會，停止湘粵進兵和擁護馮國璋繼任總統的條件，一旦滿足這些條件，兩廣即取消自主。這樣一來，馮國璋又發出了停戰布告，責成南北兩軍停止敵對行動。但北方主戰派立即又展開攻勢。12月31日，北方十督曹錕等發表通電，堅決反對恢復舊國會，主張以皖系控制的臨時參議會代行國會職權，選舉正式大總統，實際是想「合法倒馮」。在這種形勢之下，馮國璋改變策略，聲稱要親自出征討伐西南，親率拱衛軍一旅，乘車沿津浦路南下，實質想逃離皖系控制下的北京，回到直系大本營南京。不料，專車開到蚌埠時，被皖系干將倪嗣沖攔截，迫使馮國璋回到北京。這樣，馮、段兩派的鬥爭更趨白熱化。
為了從根本上打擊馮國璋的直系力量，段祺瑞派徐樹錚到奉天與奉系首領張作霖商討合作，調奉軍入關「兵諫」，迫使馮國璋就範。以日本運來的軍火，作為換取奉軍入關的條件。奉系得到軍火後，迅速出兵入關，進逼天津。皖、奉聯合，馮國璋的處境更加危險，不得已再作妥協，又一次請出段祺瑞當國務總理。
段祺瑞第三次組閣後，繼續推行他的武力統一政策，同時按原定合法驅馮的計劃，指使臨時參議院通過國會組織法和兩院議員選舉修正案。1918年8月12日，皖系一手操辦的安福國會開幕，合法倒馮的時機已成熟。
在這裡，很有必要先解釋一下安福俱樂部，安福系及安福國會等幾個名稱。安福俱樂部，是皖系軍閥的御用團體。1917年3月，段祺瑞為抵制孫中山在廣州召開國會非常會議和操縱是年9月的總統大選，指使王揖唐、唐毓雋等在北京安福胡同梁式堂住宅組織俱樂部。3月8日正式成立，因在安福胡同開會，且本部設於此，故取名安福俱樂部。俱樂部的組織具有一個國家全部官制的雛形，下設幹事部，主任王揖唐；評議會，會長田應璜；政務研究會，會長李盛鐸。以安福俱樂部為組織形式而形成了一個派系，稱為安福系，是皖系軍閥政治上的中堅和核心力量，其首領為徐樹錚、王揖唐等。1917年7月24日，段祺瑞通電各省，徵求召集臨時參議院的意見。9月29日下令召集，11月10日開會。臨時參議院被安福系所控制，主要任務是修改民國元年所定有關國會的各種法規，以便組成有利於皖系的「正式國會」。1918年2月17日公布了《修正國會組織法》，選出參議院議員168名，眾議院議員406名。8月12日國會成立。參議院正副議長為李盛鐸、田應璜，眾議院正副議長為王揖唐、劉恩格。由於它是由安福俱樂部一手包辦選舉產生，而且安福系占絕對多數議席，故稱安福國會。
安福國會的目的是倒馮。馮國璋自知無力抵抗，但又心有不甘，因此提出以段祺瑞同時下台為他下野的條件。正當此時，局勢又發生新的變化。原來傾向皖系的直隸總督曹錕及他的第三師師長吳佩孚等前線將領由主戰變成了主和。吳佩孚還公開痛罵安福國會甚至段祺瑞本人。沉默已久的長江三督也發出先決時局，後選舉總統的通電。這些，都旨在挽救馮國璋，衝擊段內閣。面對直系的反撲，段祺瑞決定迅速組織總統選舉法，儘早完成合法倒馮計劃。為避免直系的直接報復，段祺瑞表示與馮國璋同時下野。9月4日，大總統選舉會正式舉行，結果徐世昌當選，馮國璋、段祺瑞同時下野。
馮、段的結局，形式相似，內容則完全不同。段祺瑞不過是以退為進，他依舊在幕後操縱和控制著中國政治。而馮國璋則是個徹底的失敗者，下野後回到河間隱居，經營產業，一年後在北京帽兒胡同私宅病逝。