遠在年初，段祺瑞即已預感到直系的不臣之心。他對防止直系北上想盡了辦法，卻終于沒能得逞。新年之始，即謀劃以皖系人物吳光新取代河南督軍趙倜，以阻斷吳佩孚北歸之路（時吳佩孚軍主力在湖南對抗廣州軍政|府）。後者傾向于奉系，卻一直反對皖系對日縱容。但是總統徐世昌恐釀成巨變，不允發表。時靳雲鵬為獲得直系支持，也表示反對，因此不見諒于段祺瑞，差點辭職。
3月7日，駐湘南之直軍第3師師長吳佩孚不顧北京政|府連電阻止，要求撤防北上。3月18日，吳佩孚麾下混成旅旅長王承斌、蕭耀南、閻相文等開始撤防北上，廣州軍政|府續付毫洋三十萬元作為開拔費。作為反對，北京附近駐軍皖系的師長曲同豐、陳文運、魏宗瀚、李進才、劉詢等通電，謂營房不足，拒直軍移駐。
這個時候，曹錕還只是試探，見到皖系針鋒相對地直接打回來，也不敢過于緊逼，只是雙方都知道，更大規模的戰爭即將開幕，這是不可調和的。
「五四運動」使得段祺瑞政|府及皖系所控制的「安福國會」聲名狼藉，在國民中的威信逐漸喪失。看著張漢卿的「安西軍」在西北取得的成績，曹錕與吳佩孚眼熱起來。兩人見時局如此，認為有機可乘，便派人出關積極游說張作霖，以求達成直系與奉系南北夾攻皖系之勢。
此時奉軍已完成10個師的整編，正是兵精糧足人才濟濟之時。興安、熱河、察哈爾、蒙古四地的穩固及「西北軍」的成就，使東北聯省自治政|府的聲望達到新的高峰，也使得奉系高層的眼光再一次轉向了關內。
但對直系拋過來的橄欖枝，張作霖權衡利弊，始終不能決斷︰一邊是入關獲取好處的誘惑，一邊是得罪皖系背後的支持者日本人。他雖然在骨子里是個十分愛國的軍閥，但是此時此地，以他的力量和地位，不能不顧忌到日本人的影響力。他一生中的重要盟友吳俊升也不願意出關，吳堅持「奉系閉關自守以待來日，遼東雖小足以為王」，目前以靜觀局勢、藏拙養晦為要務。
張漢卿與孫烈臣是出關的支持者，孫烈臣認為皖系主力盡被分散在各地，易于擊破。奉軍出關阻力甚小，挾安定蒙古之威及在國人中的影響力，在直皖反目中或可乘機入主也未可知。而張漢卿則知道史上直皖戰爭的速勝，當然力主出兵，以不讓直系在北洋政|府中坐大。他認為日本人由于對英、美的忌憚，與國內經濟實力的不足，加上政治氣候的影響，且有遠東干涉軍的負擔，尚無能力給予規模的干涉，只會象征性地表示反對，因而不足懼。
張作霖已習慣于張漢卿的進言，他欣然應允，在4月以王乃斌為全權代表，商討與直系結成反段聯盟的條件。張漢卿給出的條件是︰
共組北京政|府，新政|府之財政、農商、交通總長由奉系指定；
奉系獲得察哈爾省城張垣地方（即張家口，此時尚被皖系軍隊據守）；
熱河所圍之直隸唐山、秦皇島兩地並入奉系控制之熱河特別區，成立熱河省；
直系習慣勢力綏遠特別區劃歸奉系；
直奉兩系在西北合力攻擊陝西，雙方以渭河為界，西北人民軍佔北方，直軍佔南方；
天津為雙方勢力分界點，雙方均可駐兵于天津，但不得干涉天津民政；
戰後奉系同意並支持直系擁有原皖系安徽、山東、浙江3省之地方。
這是一個雙方大致都能接受的協議︰陝西間隔了奉系控制的甘肅與直系控制的湖北，平分陝西實為公平之舉；陝北若歸奉系所有，綏遠處在奉系甘肅、蒙古、察哈爾包圍之中亦無完璧可能（臨近的山西是另一軍閥閻錫山牢不可破的勢力範圍）；天津為各外國勢力雲集之地，雖有海關之利，卻動輒得咎，直系並無太大興趣；靠近山海關的直隸兩地處于奉系連接天津、熱河必經之處，奉軍勢在必得，必不容協商。而直系則鞏固了長江流域及北方的地盤，奉系將連接西北東北便捷通道的大片土地收歸囊中。可謂皆大歡喜。
5月17日，段祺瑞在團河召開作戰會議，命邊防軍集中北京一帶，段擬自駐鄭州迎擊吳軍。為了鼓動士氣，次月4日，段祺瑞、徐樹錚宣稱動員討伐南軍。
段祺瑞前腳剛走，6月10日，關外的奉軍便奉命自直隸獨流鎮經天津開往廊坊。
在直皖磨刀霍霍之際，皖系在湖南的釘子被連根拔起——6月13日，皖系湖南督軍張敬堯為各方驅逐出湘，北京不得已「褫其湖南督軍兼省長職，暫行留任」。
6月15日，吳佩孚攜直軍旅長王承斌、蕭耀南、閻相文自鄭州至保定，與直隸督軍曹錕會議。
7月4日，徐世昌免去徐樹錚西北籌邊使職，以李垣護理，裁撤邊防總司令，所轄軍隊由陸軍部接管。
7月5日安徽督軍倪嗣沖到北京，段祺瑞下令邊防軍動員。
7月6日邊防軍向長辛店、廊坊出動，戰端已有跡象。
張作霖早已做好痛打落水狗的準備，但為了麻痹段祺瑞，親身到團河，勸段祺瑞勿用兵。然而段祺瑞在得到張作霖奉軍保持中立的「保證」後，認為勝券在握，執意開戰，並要求懲辦吳佩孚。在此形勢下，直系第16混成旅旅長馮玉祥率部自常德桃源撤退，移兵漢口諶家磯…
直皖大戰勢不可免，但是直系僅吳佩孚所帶第三師的3個混成旅及曹錕所部2個師，面對有日本華北駐屯軍作後盾的皖系軍隊，不能不有所顧忌。在吳佩孚的建議下，7月10日，曹錕致電北京公使團，請其注意日本暗中助段的事實。美、英、法三國壓迫日本公使表示態度。14日，日本公使被迫發表宣言，表示決不助段。
為給直系打氣，7月11日張作霖致曹錕一電，說他已經派遣第二十八師先行進關，關內奉軍派張景惠為司令。他估計關內奉直聯軍已有七八萬人，可以應付東西兩線的戰爭。並向曹錕擔保︰「我輩骨肉至交，當此危急存亡關頭，不能不竭力相助。」
得到日本人不助皖的保證，又有奉系在後支持，曹錕決定對段祺瑞交戰，于是直皖戰爭開始。