1938年初夏的徐州会战、兰封会战，徐州、开封等地相继沦陷，广大豫皖苏地区被日军占领。
针对时局的发展，中央于1938年5月4日徐州失守前就指出：“徐州失守后，河南将迅速陷入敌手，我应准备向豫皖苏鲁四省敌后发展”。
徐州失守后，中央发出了《关于徐州失守后华中工作的指示》，进一步强调：“应……动员大批学生、工人、革命知识分子到乡村去，组织领导群众，发动游击战争，组织游击队，建立游击区。”为了实现中央这一战略部署，河南省委号召全省积极发展抗日武装，于7月2日派萧望东率70余人组成“先遣大队”（或称“萧大队”）前往豫东，配合“西华人民抗日自卫军”和睢杞太地区的“豫东抗日游击第三支队”开展游击战争。
随着武汉会战日军逼近武汉，7月29日中共长江局周恩来、叶剑英电示河南省委军事部长彭雪枫：“情况紧急，你宜速去豫东发展游击。”根据中央关于河南省委工作重心向豫东转移，挺进敌后开展抗日游击战争的指示，8月初彭雪枫带秘书黄林等一行4人亲临豫东视察。首先到西华县，与积极支持抗日的国民党西华县长楚博多次接触，了解了西华人民抗日自卫军东渡新黄河游击抗日的情况，在同豫东特委的领导成员交谈中了解了特委的工作情况。然后彭雪枫等前往扶沟、周口视察。
在周口，对积极支持抗日的河南省第七行政专署专员刘莪青加强了联络工作。此次视察前后历时半个月，基本上掌握了以西华根据地为中心的豫东各地情况。彭雪枫回到竹沟后，加紧了东进抗日的准备工作。1938年8月19日，彭雪枫把豫东有关情况电报党中央，详细介绍了豫东地方抗日力量的情况，并认为如果中央“加派有作战经验之军事连、营级干部及政工人员”来豫东，认为“这是开展豫东工作的万分必要的先决问题”，可以在短时间内变成和八路军一样的正规部队。另一方面从人员、物资上做准备。在竹沟加紧训练教导队以充实将来武装发展后的骨干力量。
同时彭雪枫亲自到洛阳与第一战区司令长官程潜交涉将赴豫东游击抗日的有关事宜，索要了部分弹药和军用地图。9月2日，长江局的周恩来、叶剑英致彭雪枫电：“同意率必要武装到豫东部署工作。”中央根据局势的发展和彭雪枫报告的豫东情况，于9月2日再次电告河南省委：“把你们工作重心移向豫东，创造苏鲁皖边新局面，与八路军冀鲁豫活动部队（徐向前、陈再道）联系起来……。”9月3日和17日彭雪枫将东进的准备情况两次电告党中央和毛主席，提出与吴芝圃、肖望东部等力量会合的建议，并请示东进部队用“八路军游击支队或相当于上述名义”以及前往豫东的大致时间当在第二期“教导队毕业后”(9月22日)。此后河南省委开始作东征将士的动员和后方留守工作的部署。
9月23日，彭雪枫在教导队第二期毕业典礼大会上进行动员：不久我们将出兵豫东，任务是开展豫东敌后平原抗日游击战争。9月27日，中共长江局基于竹沟部队将在陇海路南地域游击作战，指示彭雪枫“以新四军游击支队名义出动”抗日。
9月27日，彭雪枫与河南省委常委陈少敏联名向毛泽东、张闻天、周恩来、叶剑英报告：“竹沟部队机关已动员完毕”，决定“开往豫东部队于二十八日举行誓师典礼后出发”；因“信阳吃紧，竹沟部队动作亦不在远”；“留竹沟一个中队，枪八十支”，加之竹沟周围“可全部听我调动”的“有组织之民众武装”，在信阳失守后，“可组成七个至八个中队”；“开往豫东部队，两个中队，带军事、政治、地方党的干部一批，以便加强豫东工作”；到豫东后，我们提议“组织豫东军政委员会，以便指导豫东工作”，豫东军政委员会由彭雪枫、吴芝圃、萧望东、谭友林、方中铎、周季方、岳夏、张震、王其梅、刘作孚组成，“以彭为主席”，同时“彭、吴、萧组织三人团，以便应付紧急情况。”
1938年9月29日，在河南确山县竹沟镇东门外沙坪上召开了誓师大会。会上，陈少敏代表中共河南省委、王国华代表后方留守处致欢送词，勉励出征将士奋勇杀敌，不要辜负后方人民的重托。
彭雪枫作动员报告，并代表东征指战员表示了坚决打击日寇、收复失地的决心。9月30日，彭雪枫、 张震率领以延安派来的红军干部和八路军总部临汾学兵队毕业生为骨干的“新四军游击支队”373人（编为2个步兵连、1个警卫连）、苏式转盘机枪6挺、长短枪190多支、每人100发子弹从竹沟出发，经过蚁蜂店、遂平、界牌集、上蔡的黄馆集、10月3日抵达西华的砖桥休息两天，5日北渡沙河，到达西华西夏亭，10月8日经西华县城抵达西华县城北约七、八里的杜岗村。同时，河南省委命令吴芝圃率领的豫东抗日游击第三支队【600多人、长短枪300多支，轻机枪6挺；仅留马庆华率200余人留在睢杞太地区继续斗争，并重建睢杞太党组织】从杞县黑亩村出发，在通许县的邸阁至扶沟县的吕潭一线西渡 新黄河 ，到西华县杜岗村与彭雪枫会合。史称“杜岗会师”。
当时西华县长楚博，魏凤楼、胡晓初、屈申亭、侯香山等4个区长都是支持抗战的统战人士或秘密党员；从外地来的干部都觉得西华是“白色包围中的小苏区”，有“小竹沟”、“小延安”之称。
10月10日在西华县城内彭雪枫主持召开了豫东特委扩大会 议，彭雪枫、吴芝圃、王其梅、刘作孚、周季方、郑平、刘道安、王学武、路岩岭、胡晓初、屈申亭等17人参加了这次会议。会上首先宣布了河南省委关于成立豫东军政委员的决定及其成员名单：彭雪枫、吴芝圃、肖望东、谭友林、方中铎、周季方（邹坚）、岳夏、张震、王其梅、刘作孚等10人组成，以彭雪枫为主席、吴芝圃、肖望东组成三人团。接着会议听取了豫东特委工作报告、 西华地方党的工作报告、睢杞军队工作报告和豫东统战工作报告。会上，彭雪枫作了关于在平原地区开展游击战争和建立根据地的动员报告。
会议在听取了各方面的工作报告后，研究确定了今后豫东工作的方针、任务；在党的工作会议问题上强调了组织发展，改善领导方式，健全会议生活的重要性；在地方部队的整顿问题上，着重应重视地方部队中党的建设和加强政治工作和军事教育；在干部问题上要注意提高政治素质；在关于开展豫东及邻近省区游击战争问题上，重点强调了扩大基层武装；在统战工作中，指出对河南省第二、第七2个专区专员宋克宾、刘莪菁加强联络的重要性。此次会议对原豫东特委的工作作了充分的肯定，也指出了存在的弱点和今后应吸取的经验教训，会后调整了豫东特委的领导班子：吴芝圃任书记（吴随彭部东征不在时由王其梅代理），委员有王其梅、周季方、郑平、刘道安、刘作孚、路岩岭、王学武、胡晓初、屈申亭。经彭雪枫介绍，吸收国民党西华县长楚博秘密入党。
当时部署，“西华人民抗日自卫军”除个别指战员抽调加入新四军游击支队外，绝大部分武装留下坚持西华县的后方对敌斗争。这主要是考虑到一方面新四军游击支队东渡后要有一个可靠的后方通道，不但使游击支队可进可退，而且要有一个物资供应点。另一方面就当时情况讲，西华人民抗日自卫军有近4000人，都编入游击支队，这样会加重负担，大部队行动不方便，也不适应游击战争的要求。
10月11日从扶沟县吕潭的抗日前线胜利归来的萧望东率领的抗日游击“先遣大队”【已发展到300人230支长短枪】抵达杜岗村。10月11日上午在杜岗村东南角小树林边的打麦场召开了庆祝胜利会师和新四军游击支队成立大会。整编后“新四军游击支队”由彭雪枫任司令员兼政委，吴芝圃任副司令员，张震任参谋长，周时源任副参谋长，肖望东为政治部主任、谭友林任政治部副主任兼组织科长，王子光为宣传科长，任泊生为联络科长、资凤为供给科长，辖：
- 第一大队：以竹沟出发部队为基础编成，代号“南阳”，黄思沛任大队长，钟友松任副大队长，张太生任政委，
-- 第一中队：钟友松兼中队长，王建一任指导员
-- 第二中队：张永元任中队长
-- 第三中队：苗久锐任队长。
- 第二大队：以原萧大队为基础编成，代号“信阳”，腾海清任大队长，姜郎山任政委。
-- 第四中队：武崇成任中队长；
-- 第五中队：胡少清任中队长，张彤任指导员；
-- 第六中队：黄绪清任中队长，林乃青任指导员。
- 第三大队以原三支队为基础编成，代号“淮阳”，冯胜任大队长，吴守训任副大队长，张辑五任政委；
-- 第七中队王广文任中队长，孟广汉任指导员；
-- 第八中队孟永舒任中队长，白辛夫任指导员。
- 警卫中队（特务连）：以原三支队一中队为基础编成，罗杰任连长。
- 随营学校：原三支队学生队改，即抗大四分校前身。
- 卫生队长林士笑
原三支队的编余部队分别补充到第1、第2大队和直属队。整编后，新四军游击支队共1020人，步枪497支，马枪90支，短枪73支，手榴弹639枚，手提冲锋枪9支，轻机枪12挺，骡马32匹。
休整10多天后，于1938年10月24日离开杜岗村，在约1公里外的贾鲁河分乘木船，东渡过新黄河、黄泛区向豫东敌后挺进，跨越淮太公路，10月26日宿营淮阳东北约20公里窦楼村附近，汉奸向日军报告了这股抗日力量的存在。但汉奸的消息表述为“一群穿着破旧服装的散兵”，而让日军产生了误判，10月27日派出一支50人组成的骑兵前去消灭。彭雪枫率部用两个小时毙日军敌首林津少尉12人，缴获枪支弹药若干，抗日首战获胜。10月28日彭雪枫部从鹿邑试量出发，穿过鹿邑县城，县长魏凤楼率军民夹道欢迎。部队走到太清宫之后，向南抵达王皮溜集刘大庄，分别驻在刘大庄周围的刘小庄、张楼、母阁、薛牌坊等十几个村庄。彭雪枫的司令部设在开明绅士、民团团长刘乾德家。
组织发动群众，建立地方武装。以刘大庄为中心，在王皮溜、白马驿、吴台庙、汲水集等地相继建立了青年抗日先锋队、妇女救国会、抗日儿童团、农民抗日自卫团等抗日组织。号召参军入伍，支队在鹿邑期间，刘大庄、尚桥、梁庄、王皮溜、五里庙、张完集等集镇先后有400余名青壮年参军。1938年11月中旬，支队后方医院在刘大庄正式成立，后转移到汲水集(今属郸城)。在鹿邑动员了一些铁匠艺人组建了支队修械所。11月20日彭雪枫决定在刘大庄设立支队留守处，作为西征和东进的根据地，留守处党支部书记程朝先，副书记许遇之，留守处共有30名战士、60多名伤病员，就近接受张爱萍的领导，加强与魏凤楼的联系，1938年冬，留守处迁至鹿邑县城南云楼村。
1938年11月20日至12月24日，支队西征睢杞太地区，共歼灭汉奸和土匪武装1000余人，支队发展到1735人。三大队留在睢杞太地区打游击，主力部队经邢口、通许、太康、淮阳返回鹿邑。1938年12月24日，彭雪枫发电报向中央报告了部队情况，毛泽东和王稼祥复电“你们在豫皖苏地区发展游击战争，创立根据地的计划是很对的，并已开始获得成绩，望放手去做，必获大效。”1939年元月，进入白马驿。鹿邑县城南15公里处的白马镇位于郸城县最东部，豫皖两省三县(鹿、亳、太)交界处，古时候称白马驿。
“砖砌寨墙，俨若小城”，尚未被日寇蹂躏，环境相对安定。彭雪枫决定在白马驿进行整训。“白马整训”历时一个多月。刘少奇派任沪生护送延安抗大第四届毕业生100多人到白马。1937年由彭雪枫发展的“特别党员”、时任鹿邑县长的魏凤楼帮助部队解决了2500套棉衣，送来筹集到2万块军费，还把自己的地方武装两个营拨给了彭雪枫部；1939年春节魏凤楼县长带3000块大洋和猪肉等物资到白马驿部队驻地慰问。新四军游击支队扩编为两个团，兵力达3421人（不含随队游击队500余人），各种枪械近3000支。辖：
- 第一团：团长张太生，政委李辉
-- 第一营：游击支队第一大队编
-- 第二营：李广举部编
-第二团：团长滕海清，政委谭友林
--第一营：睢县实力派李寿山部改编为睢杞太三支队二大队编成。教导员张永远
--第二营：游击支队第二大队编
- 独立营：游击支队第三大队编
- 特务连
- 侦察连
- 卫生队
- 随营学校
共1355人，步枪1002支、短枪54支、轻机枪20挺。
1939年1月3日，新四军游击支队第二大队大队长滕海清率部队310多人出发，经十八里集进入亳县境内，到商亳公路两侧，积极主动地打击日伪军；同时派遣支队政治部联络科科长任泊生一行前往亳县城，与国民党县长熊公烈商谈在亳县建立联络站。 1月8日夜晚至9日凌晨，游击支队二大队夜战芦家庙，消灭了侵犯亳县城的伪豫东剿共军第一支队官兵100多人，俘虏伪军支队参谋长等官兵100多人，缴获大批武器和日伪军侵犯亳县城的作战命令和计划，取得了新四军挺进皖北的第一个胜利。
1月10日，游击支队参谋长张震率领第一大队进入亳县城，会见了县长熊公烈。1月中旬，游击支队在亳县城会合。张震带领两个大队继续向永城前进，彭雪枫带领直属队随后跟进，2月9日进驻永城县西南的书案店（现裴桥镇书案村）。1939年2月,根据中共中央中原局的指示,中共豫皖苏省委在永城县书案店成立,任书记。1939年2月23日,新四军游击支队在书案店召开团以上干部会议,彭雪枫总结了支队进入敌后4个月的工作。
根据中共中央的指示精神,向团以上干部提出了建立以永南、涡北为中心的豫皖苏边抗日民主根据地，调集一批干部,分组前往书案店附近的马村桥、夏桥、观音堂等地开辟工作。建立了中共永城县委和县政府。游击支队派遣高峰（化名高凌云，建国后改名高啸平）来到亳县，在与驻亳县联络站取得联系以后，任泊生安排高峰会见了亳县抗日民众总动员委员会指导员傅焕之和县长熊公烈。通过任泊生的介绍和协商，高峰担任了亳县县属抗日工作团团长，高峰利用这一公开身份，与联络站密切配合，通过多种宣传形式，开展抗日救亡活动，与耿演武等开辟了“亳北抗日根据地”。
1939年3月，彭雪枫、吴芝圃、张震和豫皖边省委书记张爱萍到亳县，在任泊生陪同下与“安徽抗日人民自卫军第五路军”（七八千人，分别驻扎在临泉、太和、亳县一带）总指挥余亚农会晤，共商联合抗日等工作，并在汤陵公园合影留念。
1939年3月，中原局书记刘少奇指示以1938年11月在鹿邑县成立的豫皖边工委为基础，在永城县书案店成立豫皖苏省委（亦称豫皖边省委），属中原局领导，书记张爱萍，副书记吴芝圃，下辖睢（县）杞（县）太（康）中心县委、皖北（阜阳）特委、永城县工委。
1939年永城县书案店一带出现了严重春荒，群众家中大面积缺粮，出现了断炊户，卖儿卖女、妻离子散、外流乞讨。新四军游击支队处于敌、伪、顽、匪等多股势力的联合夹击封锁之中，部队的供给陷入了极端的困境。供给科长资凤向彭雪枫报告：“现在只剩下3块多钱了，伤病员的药品已经用完，每天每人3分钱的菜金也没有了着落。”建议“让战士们外出挖野菜、草根、剥树皮充饥了。”彭雪枫认为“现在老百姓也很困难，挖野菜是与民争食的行为，我们要把一切吃的、喝的都优先让给群众。”最后卖掉了全部13匹马筹款维持支队部的经费。彭雪枫指示前线作战部队“消灭敌人,拔掉据点,征收粮食,救济贫民。”一团在商丘、二团在肖县、三团在夏邑立即行动起来、在战斗中向敌人要粮。
1939年4月9日新四军游击支队以所属部队整编为第一、第二、第三团，团长分别为张太生、滕海清、周时源。还直属教导营、特务连、侦察连、卫生队、随营学校留守处、拂晓剧团、《拂晓报》社等。
- 第三团 团长周时源 政委方中铎
-- 第一营：前身为睢县游击武装、游击支队第3大队、游击支队独立营。代号“西湖”。营长张永远
-- 第二营：代号“巢湖”。营长兰桥
“书案店会议”后，彭雪枫率游击支队主力（第2、3团和直属队）继续东征，向淮上地区进军。1939年6月3日，游击支队第2团进宿县以南湖沟集一带。宿县日伪军400余人向第2团进攻，毙日伪军20余人，击毁汽车3辆，取得了进军淮上以来首次胜利。6月中旬游击支队进入怀远耿村集地区。6月20日，第2团主动出击，夜袭怀远县城，击溃守军一个中队，毙伤日伪军六七十余名。25日，第3团再袭怀远县城，歼灭日伪五十余人。随后，游击支队又第三次、第四次袭击怀远县城，奔袭县城西上桥日伪据点，伏击支湖日伪军。彭雪枫在怀远县耿村集礼堂发表了抗日演说，团结了一批信教群众。
彭雪枫与钮玉书、李耀庭等当地士绅联络抗日。在淮上地区新四军游击支队人数扩充1800余人，在怀远地区重要商业口岸缉私征税，3个月时间内就实现了“打仗、扩军、筹资”三大任务。1939年8月底回师涡阳县曹市集。1939年9月1日，新四军游击支队第一次党代会在曹市集召开，主席团成员：李耀、谭友林、彭雪枫、滕海清、肖望东、方中铎、张先舟、张震、岳夏、吴芝圃。
1939年6月，永东抗日学生大队改编为新四军游击支队独立大队。该部1938年夏秋永城县沦陷时永城县抗日救亡动员委员会（简称动委会）组建，开始只有十几个人十几条枪。1939年春节后，张震参谋长率部在高庄消灭了王胡子的残部后，赠给学生队25支枪，为永东北、永东两个学生队分用。永东学生队已拥有四、五十支步枪，基本做到人手一枪；永东北学生队已发展到六七十人。
一部分永西知识青年，根据党的指示于1939年春节后去书案店新四军游击支队支队部受训2周后，宣布成立永西学生大队。 到1939年4月初发展到具有全县规模的四、五百人的学生大队 大队长王振邦（游击支队派来的红军干部）、政治委员盛瑞堂，副大队长杨斐，辖4个中队及宣传队（队长刘传新，1921年生，十年浩劫后期任北京市公安局长）。1939年9月改编为新四军游击支队第三团第三营，三营长姚元清，营的代号“洪湖”。永南三区胡克明大队编为四营，营长胡克明，营的代号“黑海”。 后兰桥率二营重返濉杞太编入濉杞太独立团，三营改称二营。
1939年8月，中共豫皖苏省委改称中共豫皖苏边区委员会。
1939年11月6日，中共中央中原局书记刘少奇抵达新四军游击支队司令部所在地，传达了党中央关于放手创立抗日根据地的指示，并对豫皖苏边区党政军工作作了布置。随后，豫皖苏边区抗日民主政权——豫皖苏边区联防委员会成立，吴芝圃任主任。到1939年11月，部队已发展到1．2万余人。
1939年11月下旬，3团开进豫东永城、夏邑和砀山边界地区开辟根据地，先后攻打济阳集、会亭集、张楼、埋头集和王套楼等地。12月2日下午6时，3团采取长距离夜间奔袭的作战方式，攻打夏邑济阳集伪据点。毙伤敌150余人、俘虏160余人，缴获机枪1挺、步枪170余支。
1940年2月，新四军游击支队改称新四军第6支队。彭雪枫任司令员兼政治委员。
1939年8月5日，睢杞太特委书记马庆华率睢杞太独立大队在杞县傅集镇宋庄（现为宋刘庄）伏击日军。在掩护最后几名战士撤出战斗时，马庆华被击中牺牲，时年25岁。根据斗争形势需要，同时为统一领导整编水东地区抗日武装，1939年11月，韩达生被任命为睢杞太特委书记。随后的1940年1月，由睢杞太独立大队、王其梅率领的西华部队、孟海若率领的部队组建了新四军第六支队睢杞太独立团，蓝侨任团长兼政委。
一营营长王广文；二营营长孟海若、教导员马玉堂；王其梅率领的西华部队编为睢杞太独立团三营，王其梅任营长兼教导员。1941年1月“皖南事变”时，驻黄泛区的顽军八十一师偷袭睢杞太独立团，造成损失。根据中央指示和斗争需要，豫皖苏边区党委将睢杞太地区划为游击区，睢杞太独立团除留一营二连、二营四连坚持斗争外，其余全部东进豫皖苏边区充实部队主力。1941年2月，睢杞太独立团编为新四军第四师十一旅第三十三团，王其梅任团政治委员。
1938年12月第一战区与河南省政府撤换了支持抗日的第七区专员刘莪青，换上顽固派刘庄甫接任，同时令西华县长、“西华人民抗日自卫军司令员”楚博前往洛阳述职并扣押，下令“西华人民抗日自卫军”收编为“第一战区自卫军第七路”。王其梅为首的豫东特委研究后认为，大敌当前，必须维护抗日民族统一战线，同时坚持独立自主原则，保留党对这支队伍的领导权。
经中共河南省委批准，西华人民抗日自卫军接受了第一战区收编，先是庞国均任司令，不久刘庄甫接任。国共两党对西华这支部队的控制与反控制斗争日益激烈。1939年5月第一战区以周口地段的新黄河河防吃紧，下令自卫军第七路调防周口。又调抗日自卫军第七路去舞阳“整训”。由于部队已被党组织控制，1939年12月中旬，抗日自卫军第七路从豫中叶县经过“千里小长征”到达豫皖苏根据地，与彭雪枫部会合，改编为新四军第六支队第二总队。
