就在這時，黎元洪收到了探子的回報，就在前方不遠處，發現了敵軍駐扎的痕跡。
黎元洪立刻帶軍趕到現場，仔細的觀察。雖然駐營的痕跡被清理了大半，但黎元洪畢竟是新式軍隊出身，也能夠從中看得出一些門道來。從駐營地區的範圍來看，駐扎在這里的軍隊在2000人左右，而且秩序井然，條理清晰，顯示出不弱的軍事素質，顯然不是普通土匪那麼簡單。
不過黎元洪估計了一下，現在自己手下也有2000軍隊，完全可以和這股匪軍有一戰之力，而且自己的身後還有張彪的大軍，也不怕敵軍還有增援。于是下令全軍追擊。
由于這時敵軍的行軍痕跡十分清晰了，因此湖北清軍的追擊也十分輕松，軍隊又向前追趕了2個多小時，走出了近20公里，卻發現這支敵軍的行軍路線是沿著南陽府和襄陽府的邊界，向東而去，如果繼續追下去，只會離這次進軍的目標唐縣越來越遠。這一來湖北清軍面臨著兩個選擇，一是放棄追擊，回頭繼續向唐縣進軍，但有一支2000人的軍隊在側，湖北清軍還能夠順利攻下唐縣嗎？二是繼續追擊下去，直到追上這支敵軍為此，等殲滅了這支敵軍之後，再回頭進攻唐縣，這樣的好處在于解除了進攻唐縣的後顧之憂，而且還削弱了敵軍的實力，但需要什麼時候才能追上敵軍？萬一敵軍是有意引開湖北清軍呢？
黎元洪也不禁有些猶豫不決起來，盡管黎元洪是一個新式軍人，而且也確實有一些材干，但性格卻是頗為優柔寡斷，耳軟心活，有「泥菩薩」之稱，因此面對這樣的選擇，黎元洪一時也下不了決心，于是立刻下令停止追擊，就地休息，並且派人通知張彪趕來匯合協商。
一個小時之後，張彪帶領大隊趕來，兩人聚在一起商議之後認為，還是應該先追擊這股敵匪，因為唐縣畢競是一座縣城，又是這伙匪人的重要聚點，因此匪人必會在唐縣設重兵把守，未必能輕易攻下，萬一久攻不下，這股敵匪再殺回來，恐怕就不好應付了，不如先殲滅這股敵匪，再圖攻城。同時張彪也要求黎元洪輕裝上陣，將火炮輜重等武器留在大隊中，這樣可以加快行軍速度，追上敵匪之後，也不必急于將敵匪殲滅，而是拖住敵匪，等張彪帶領大隊趕到再合力聚殲敵匪。
第二天，黎元洪將火炮、輜重留下，只帶了6門58毫米山炮，然後帶領全軍，共計約1500人，繼續追擊。果然，輕裝上路之後，黎元洪部的行軍速度就要快得多了，一天的時候，就追出了50余公里，而就在黃昏時俟，探子回報，在前方發現了敵匪，向本部進攻過來。
黎元洪听了，趕忙下令全軍，準備戰斗。
義勇軍三團的團長是一名叫劉合成的穿越者，在來根據地之前，他只是一名副營長，不過參加了華東政府以前經歷過的所有戰斗，可以說是從基層一步一步打上來的，作戰經驗十分豐富。接到了牽制湖北清軍的任務之後，劉迪鵬也仔細的考慮如果圓滿完成自己的任務，不僅要把清軍吸引住，而且還要給清軍一點教訓。
湖北清軍的總兵力遠在自己之上，當然不能與其硬敵，必須要想辦法讓湖北清軍分兵，才好逐個擊破，而且首先還要試探一下敵人的底細，因此在前三天時間，劉合成都采用避而不戰的戰術，並且故意露出一些行軍、駐營的痕跡，一來是引湖北清軍追擊，遠離唐縣；二來是讓湖北清軍分兵，因為要想追上義勇軍，湖北清軍必須分出一部份兵力，輕裝簡行，這樣自己就有機會了；三來也是通過追擊，看看湖北清軍的反應，以判斷清軍的實力，以便于采用不同的戰術應對。
如果湖北清軍輕急冒進，說明湖北清軍驕狂自大，可以考慮在中途設伏；如果湖北清軍小心翼翼，畏手畏尾，行動遲緩，則說明湖北清軍膽小劫戰，可以采用虛張生勢，或是偷襲戰術應對。
由于義勇軍熟悉地形，而且又有大量的民兵、百姓支持，因此湖北清軍的行蹤一直都在義勇軍的掌握之中，不過湖北清軍的追擊到是不急不燥，既不冒進也不遲緩，而且還派出大量的探子，在前方、左右查看，並且和後面的大隊保持著不超過20公里的距離，顯示出相當強的素質，說明這支清軍是受過比較嚴格的訓練，有一定的戰斗力，也讓義勇軍基本無機可趁。
不過經過了第4天的追逐之後，清軍也終于有些沉不住氣了，留下了火炮輜重、輕裝上路，不僅減少了人數，並且加快行軍速度，又經過了一天的追擊之後，和後面的清軍拉開了近30公里的距離，劉合成也意識到，戰機來了，雖然這時來不及組織伏擊陣地，但既使是正面交戰，劉合成自認為有6、7成的把握。因為現在自己在人數上己略佔優勢，而且自己是主動出擊，有一定的突然性。
劉合成選擇的戰場在桐柏山的界牌口地區，三個營分成三路，向湖北清軍發動進攻，這也是清軍發動清剿之後，雙方首次發生正式的戰斗。
黎元洪對于遭到敵匪的攻擊也早有思想準備，因此聞報之後到也並不驚慌，立刻下令清軍就地組織防御，並且又派人通知後面的張彪，讓他立刻趕來增援。
黎元洪下令之後，清軍士兵們立刻紛紛找掩體躲藏，準備，布置陣地，而黎元洪也找地方設立自己的指揮部，但還不等清軍完全準備好的時候，義勇軍就己經殺過來了，首先打擊清軍的是一輪炮擊，三團的60迫擊炮連的18門60MM迫擊炮一起開火，時間不長就打出了上百發炮彈。
其實這一連串的爆炸對清軍的殺傷其實並不大，因為義勇軍根本沒有找準清軍陣地的位置，一來是時間倉促，來不及觀察校正；二來是現在清軍自己都還沒有布置好陣地，反正只要是把炮彈向著一個大概的方向打去就行了。不過這一輪炮擊卻給清軍造成了極大的震憾，就連黎元洪也都被嚇得有點發懵，剛才那一輪炮擊，沒有20門也不會差太多，這伙敵匪竟然有這麼多火炮嗎？自己現在只有6門山炮，而且還沒有組裝起來，這一仗怎麼打，自己能夠扛到張彪趕來增援嗎？
而在炮擊之後，義勇軍立刻向清軍發動進攻，而清軍也無可避免，只能硬著頭皮迎上來，雙方很快就如同兩股洪水撞擊在一起，進入到激烈的肉搏戰中。雙方的士兵以刺刀對陣刺刀，白刃迎擊白刃，轉眼之間就互相交錯在一起，進行著殊死的戰斗。
到了這個時候，戰術己經沒有多大意義了，比拼的是雙方士兵的個人戰力和勇氣，以及以班為單位的團隊協作能力，雖然義勇軍的總人數在清軍之上，但炮兵是不參加這種肉搏戰的，因此義勇軍參戰的人數到也並不比清軍多多少，其實平心而論，湖北清軍的戰斗力確實不差，士兵的個人素質、士氣、勇敢，也不在義勇軍的士兵之下，但畢竟是倉促應戰，而且剛才的一輪炮擊，對湖北清軍也造成了一定的影響，更為重要的是，義勇軍的火力支援武器雖然不及人民軍，但基本武器卻是相同的，軍隊中裝備了大量的96式手槍，在這種近戰中，96式手槍可發揮極大的作用。
在這樣幾重並不算大的優勢下，雙方經過了半個小時的激烈戰斗之後，義勇軍漸漸取得了上風，因此人人都越戰越勇，而湖北清軍雖說是訓練有素，但畢竟還不是一支真正的強軍，打順風戰尚可，而一但戰場陷入了不利的局面，頓時就頂不住了，被義勇軍殺得連連後退。
這時黎元洪正在帶著自己的衛隊，在一個小山頭上觀戰，因為這個時候也不用他指揮戰斗，見清軍不敵，紛紛向後敗退，而且有不少士兵敗逃的方向就是自已的山頭，黎元洪也不由得大驚失色，在這個時候，他自然不敢在山頭上久做停留，趕忙帶領自己的衛隊，逃下山頭。
而黎元洪從戰場上逃離之後，清軍終于陷入了全面的潰敗，四向奔逃，好在是義勇軍也並不緊逼，只追出了2、3公里，就立足停足不追，而劉合成也下令全軍，簡單的清理了一下戰場，收容陣亡士兵的遺體，簡單治療受傷的士兵，並且帶上被清軍遺棄的槍支武器，就立刻從戰場撤離，清軍進剿之後的第一場戰斗，以義勇軍的獲勝而告終。
大約半個多小時以後，張彪、黎元洪帶領著大隊清軍趕到戰場時，義勇軍早己經不知所蹤，只留下了大量的清兵尸體，還有少量因重傷不能行動的清兵。義勇軍在撤離的時候，到並沒有對這些受傷的清軍斬盡殺絕，甚致有不少清兵都認為自已是必死無疑了，但義勇軍的士兵卻只是看看了他們的傷勢，有的還試圖把他們從地上拉起來，但見他們受傷實在是太重的，最終還是放棄，但也並沒有殺這些受傷的清兵，只是把他們的武器都帶走，然後留他們在原地自生自滅。因此盡管有少數清兵因傷勢太重，得不到極時的救治而死去，但大多數傷兵還是十分慶幸的等到清軍的大隊人馬趕來了。