民国二十六年七月七日，北平发生芦沟桥事变，举国抗日烽火蜂涌。地处苏、鲁界处的峄县、滕县、铜山县、邳县、沛县诸地亦不例外。

民国二十六年十月，峄县二区朱木石、刘丙奋举行邹坞暴动，击毙为祸乡里的乡农学校校长王耀峰，组织百余人抗日队伍。时年五月，滕县人杨士元获南京政府授予陆军中将之衔；秋，韩复榘颁发其“鲁南民众抗日自卫军”关防，委任杨士元为司令。中国共产党鲁南中心县委与杨士元交涉，朱木石部得以编入“鲁南民众抗日自卫军”，遵循原则是：独立自主，共同抗日。

民国二十七年二月十二日，四川旅沪同乡会战时服务团宣传队于枣庄矿区进行抗日宣传。时宣传队中有共产党员李浩然，与中国共产党鲁南中心县委联系，从本地吸收部分热血青年加入宣传队，并于当月下旬赴滕县慰问守卫滕县的川军将士。三月上旬返回枣庄。

二十七年三月中旬，日军占领枣庄。峄县三区共产党员郭致远，同邱焕文、褚雅星、从衍瑞等党员，组织学生、群众及部分枣庄矿工人，于三区大北庄镇建立六十余人队伍。峄县抱犊崮山区的黄龙洞时为国民革命军四十军庞炳勋部的军械库，郭致远部从四十军军械处长处索要枪枝五十七条，子弹三万发，名义是：武装群众，保卫山区。

二十七年三月底，中国共产党苏鲁豫皖边区特委指示鲁南中心县委调集以上三支队伍于邹坞北墓山、凤凰山一带，合编为“峄县人民抗日义勇大队”。大队长朱玉相，教导员纪十化，副大队长刘丙奋、李浩然、郭致远，副教导员张鸿仪。

记曰：

倭寇早谋自东来，

燃起烽火人神愤。

一有鲁南自卫军，

再有山区武装人。

更有四川同乡会，

同是中华好儿孙。

共入峄县义勇队，

联手灭却鬼子军。

二十七年一月中旬，共产党人李乐平、王右池、王见新等于滕县东部山区名为善堌的村庄创办“农民抗日训练班”，借此训练班，扩大共产党的影响，并培养一批军事与政治骨干。因为此，时人称善堌村是滕县的“延安”，训练班也就成了滕县的“抗大”。

在此期间，王见新两赴徐州，取得中国国民党第五战区“鲁南民众抗日指导委员会”名义，中国共产党苏鲁豫皖边区特委派于公和于化琪至善堌村加强训练班指导。

同年三月十七日滕县沦陷，滕县党组织在训练班的基础上，组织四十余人枪的农民抗日救国军，此后民众不断加入，很快达到一百二十余人，并改名为“滕县抗日义勇总队”，由于公任队长，渠玉柏为指导员，并于岗头山成功伏击日军汽车队。

记曰：

滕县农民岂一般，

争入抗日训练班。

此班堪称彼抗大，

善堌本地小延安。

民国二十六年十一月，中共苏鲁豫皖特委于安徽肖县黄口火车站西北十里之孙庄召开特委扩大会。传达中央政治局洛川会议精神。特委委员张广宗参加，此后回到徐州沛县召开县委扩大会议，传达黄口会议精神，同时遵照中共中央关于“放手发动群众，进行独立自主的游击战争，建立敌后根据地”的指示，在沛县原有的小型武装基础上，建立人民抗日武装。时有共产党员金子良、郑安良、张新华、孙立堂等组织的夏镇抗日保安自卫队，另有宋庄农民抗日自卫队。二十七年三月，张广宗合此二队为一，形成一百二十余人队伍，通过中共苏鲁豫皖特委书记郭举厦与中国国民党第五战区的统战关系，自国民党徐州专员兼第五战区游击司令部总指挥李明扬处取得合法名称“沛县抗日义勇队”，队长张广宗。

记曰：

苏鲁豫皖边特委，

肖县黄口传精神。

沛县自有好儿郎，

抗日义勇有神威。

民国二十七年五月十九日徐州沦陷。十八日，郭举厦带领苏鲁豫皖边区特委相关人员，辗转到达董尧卿带领的鲁南人民抗日自卫军驻地南常，十九日于南常召开党的干部和地方武装负责人会议，要求组建抗日武装。二十一日，特委在峄县西集南老古泉村召开扩大会议，郭举厦、张广宗、从衍瑞、何一萍、陶洪瀛、李韶九、纪十化、朱木石等到会。会议决定正式成立第五战区“苏鲁人民抗日义勇总队”。总队长张广宗，政委何一萍，参谋长韩文一，政治部主任韩见新。下豁三个大队，一大队沛县武装，大队长谢文秀，教导员宋掘文，后在羊庄、北溪一带活动；二大队滕县武装，大队长于公，教导员渠玉柏，后在善堌、桑村一带活动；三大队峄县武装，大队长朱玉相，教导员纪十化，后在临城——枣庄铁路两侧、墓山南北一带活动。

记曰：

国难当头谁堪当？