張自忠從懂事起，就開始接受舊學的燻陶，父親的影響和學校的教育，都毫無二致地歸一于孔孟之道，因此，強調忠、孝、仁、義的舊道德從小便在張自忠的內心深深扎下了根。
學習之余，張自忠常借一些小說來閱讀消遣。最讓他喜愛的是《三國演義》、《說唐》和《說岳精忠傳》。這些古典名著對傳統道德作了活生生的注釋，關雲長、岳武穆和秦叔寶的忠義俠行和浩然之氣令他心馳神往，由衷敬慕。他也曾在由營長提升為團長時以才能和經驗只勉強做一營長而上書懇辭，用地位引誘只怕讓他哧之以鼻。
既然如此，直接曉以民族大義，以停止內戰、抵御外侮來勸之歸順奉軍可能是一明智之舉。張自忠此時任馮玉祥衛隊團第三營的營長，奉命駐守在長豐縣。之所以派出衛隊守邊，實在是因為他的攤子鋪得太大了，人手照顧不過來。
張自忠同樣對直軍以一已私利阻撓統一非常不滿，他對馮玉祥只打自己的小算盤也頗有微詞。對南邊的奉軍少帥（他一直認為人民軍是奉軍的一部分）也深表尊敬。
少帥一改傳說中民國紈褲子弟的作風，通過卓有成效的「遼寧經濟改革」，建立近來聲勢頗大的人民黨，安蒙、平甘、入陝、奪鄂、搶皖絲絲入扣，一氣呵成，顯示了其杰出的軍事、政治能力和戰略觀，吳佩孚、馮玉祥之輩的能力尚達不到那種境界。
從張漢卿「不經意」間寫出的那首《清平樂?六盤山》也可以看出，張漢卿所圖非小，正所謂言為心聲。而前不久的《鳳凰涅槃》更是將他一腔對國家民族的愛發泄得淋灕盡至。
對于少帥親筆寫信招降，他既矛盾又感激︰他不過是一個營長，張漢卿麾下有無數強將，竟然能看上默默無聞的自己，且竟然贊詡自己為「國之良將」，頓感有一種知遇之恩。可是自己在馮玉祥帳下效力多年，頗有感情，自古忠臣不事二主，怎能在這種時刻拋棄馮師長？
張漢卿似是明了其心跡，在信的末尾誠懇地說；「我知藎忱（張自忠的字）兄忠義過人，但忠于國家謂之忠，忠于個人謂之義。人民軍以統一國家、強大民族為已任，亟需如兄之人才為輔。盼兄以民族大義為重，舍小義而換得民族復興，則中國幸甚，百姓幸甚！」
思忖再三，張自忠決定加入人民軍。
不過他是個有節操的人，決定離開後，把歷次馮玉祥所獎勵的物品整理齊全放在房內，又把全營的後勤賬目細細地核實一遍，然後簽字畫押以示負責。
在臨行前留給馮玉祥的信中說︰「馮將軍敬啟︰藎忱跟隨師長已逾4年，每思報效國家，終恨無門。民國自成立以來，軍閥混戰，民不聊生。張少帥漢卿者，以統一國家振興民族為已任，素為藎忱所敬仰。今將棄君而奔彼地，因行事匆匆，不及面辭。望將軍能以國事為重，諒解藎忱一片苦心。我聞君子交絕，不出惡聲。臨別贈言，為藎忱肺腑之語。」
張維璽、張自忠兩員大將加盟，使張漢卿欣喜異常。他也言出必諾，安排張維璽任于學忠第8師一旅代旅長，以張自忠任司令部高級參謀兼軍官教導團副團長（軍餃升為上校）。
他對二張的信任很不一般，除要推薦張維璽將來去戰略指揮班學習外，還對張自忠說︰「若不是藎忱兄資歷尚淺，我一定會讓藎忱做華中司令部的總政治部主任，現在就請你兼任我們軍隊的政訓工作。」
受其影響，佟麟閣也來到了少帥帳下，同樣也獲得了重用。有樣學樣，馮系士官接連跑了十幾個骨干，有的甚至是連同所轄部隊一夜之間全部倒戈。
馮玉祥對張漢卿是嚇怕了。他的幾員虎將一個一個先後離開，對他的部隊的穩定和士氣的影響是巨大的。他像一頭暴怒的獅子，將自己關在房內咆哮了一天。
不過為了防止更大的損失，他還是主動放棄了淮河以南的地盤，在皖北的部隊也全部都集中在幾個大城市，以有效避免人員流失。
沒辦法，誰讓南北奉系的力量與自己太過不成比例？不說人家加起來20個整編師，光是財大氣粗就讓人喪失爭一爭長短的念頭，這段時間從奉系傳出來的動靜不小哇。
去年，張作霖從丹麥購買了制造野炮、炸|彈的機械300套，共花費300萬元，眼楮都不眨一下。今年年初，又從遠東潰敗的「捷克兵團」手里廉價收購了一批二手武器，步槍30000支，每支13元，據說是配置給各地的保安部隊和武警部隊使用的；前段時間，他又從美國人手中購買裝甲車100輛，每輛2萬元。
裝甲車是什麼東西，他沒見過，可是據說那些二手武器是人家直接從當兵的手里現買的。「捷克造」是民國軍隊的上等武器，人家只是用來裝備二流部隊，真是人比人氣死人啊！
這時候擺在人民軍面前的是一個無比利好的局面︰在它前行的路上，已經沒有任何可資抵抗的力量，安徽最大的城市合肥就像一個痴情的少女一樣敞開懷抱等著她的情郎來溫存。對有志于統一中國的張漢卿來說，他若是放慢一點腳步就不其為張漢卿，也就不會為入皖下這麼大的功夫了。
人民軍援軍先頭部隊是在4天後進入合肥城中的，安徽民眾熱情歡迎人民軍的到來。早就听說人民軍是民國初年中國軍紀最好的軍隊，真是聞名不如見面，見面勝似聞名。當人民軍以整齊的軍容，嘹亮的軍歌踏步進城時，到處響起熱烈的掌聲。
而人民軍也很爭氣，各級政治部充分貫徹了人民軍總政治部的要求，不拿一分錢的好處、不做一件影響人民軍名譽的壞事。在這個基礎上，後來形成了人民軍著名的《三大紀律八項注意》︰一切行動听指揮；不拿群眾一針一線；一切繳獲要歸公。說話和氣，買賣公平，借東西要還，損壞東西要賠，不打人罵人，不損壞莊稼，不調戲婦女，不虐待俘虜。
合肥大商趙延宗在清晨推開窗戶時，意外地發現自家樓底下的炎黃大道兩旁整整齊齊的人民軍士兵席地而臥，整整一夜都沒有民眾受到驚擾，這是民國軍閥征戰各方所從沒有的事情，不由得從心底呼喊︰「得民心者得天下，人民軍離得天下已經不遠了！」