新四軍除了正常的編制隊伍外，還在1943年初成立了便衣大隊，由二師師長羅炳輝直接領導。大隊長是時任副團長的張，便衣大隊成員也都是精挑細選的精英。
新四軍的便衣大隊類似八路軍的飛虎隊，但人員編制比飛虎隊高很多，任務也更艱巨。
當時日軍的補給基本都要通過津浦鐵路。為了防止新四軍破壞鐵路，鐵路上布滿了碉堡和城樓，便衣大隊的任務是對付駐紮在鐵路沿線的日偽軍。
當時有個漢奸叫劉次勝。因為懂兩句日語，他成了日軍的翻譯。他手裏也有壹些軍隊。在日本人的支持下，他喜歡鎮壓與新四軍有聯系的商店。因為影響新四軍糧草供應，便衣大隊派了徐和張兩個師傅去收拾劉次勝。
兩位勇士查出了劉次勝的行蹤，選擇在壹家茶館下手。當他們看到身穿日軍軍服的劉次勝步入茶館時，早已潛入茶館的許連開數槍，劉次勝當場身亡。然後兩人都趁亂離開了。
這次反漢奸行動讓當地偽軍產生了心理陰影。新四軍乘勝追擊，廣而告之。只要和新四軍合作，就不再是漢奸了。這樣的心理戰效果有多明顯？有壹次，張帶著兩個人進了壹座崗樓。結果在場的十幾個偽軍全被嚇到了，被三個人解除了武裝。
後來，偽軍的另壹個大隊長已經加入新四軍，但他拒絕讓新四軍從他管轄的地方越過鐵路。張就準備給他們點顏色看看。他帶領部隊襲擊了這個人轄區內的日軍火車，給日軍造成了很大的損失。惱羞成怒的日本人拿偽軍大隊長出氣。大隊長沒辦法，主動和新四軍談合作，都是“四爺”。
這是偽軍對新四軍的尊稱。估計遇到八路軍就得叫“八爺”了。於是鐵路沿線的偽軍從敵人變成了朋友。那些不是朋友的人至少是中立的，有時甚至幫助護送新四軍的物資。
後來，師長羅炳輝和政委譚震林想去鐵路西側，但壹路上沒有偽軍敢阻攔他們。羅炳輝看到這些偽軍表現不錯，就給遇到的每壹個偽軍都發了壹包飛馬煙。