东北义勇军是东北沦陷初期以旧军队为基础的自发抗日武装力量的总称，并没有统一的组织和指挥系统。作为义勇军的基础的旧军队，原来都是东北军的正规部队，他们抗击日军的举动不仅是自发的，而且也是同当时国民党政府不抵抗政策相违背的。同时，这些部队在抗击日军的过程中，又收纳了大量的民间武装力量和各阶层的抗日群众。因此，这些部队虽然有一部分仍然保持着正规军的番号，但是实质上已经不再是国民党政府和东北地方当局统率之下的正规部队，而成为一支以旧的正规军为基础，包括民间武装力量和抗日群众参加在内的自发的抗日武装力量了。

如果从义勇军各部分的成分来看，它们大致可以归纳为正规军队和警察大队、旧军官、收编的胡匪、农民的秘密会社、知识分子和青年学生五个部分。现分述如下：

（一）正规军队和警察大队

1.马占山部

马占山在江桥抗战时所率领的黑龙江省防军，计有步兵第一旅孙鸿裕团、第二旅吴德林团、第三旅李青山团。骑兵第一旅（旅长吴松林）、第二旅（旅长程志远，后投敌），卫队团（团长徐宝珍），炮兵团（团长朴炳珊），此外还有一个保安大队和屯垦军一个旅（旅长苑崇谷）。马占山一度投降日军后，他在抗日基础上团结起来的黑省军队从此瓦解。他再度抗日时所能统率的武装力量，只剩下他自兼旅长的步兵第三旅和吴松林旅扩编的邓文、才鸿猷、邰斌山等部以及徐子鹤的山林队和收编的胡匪李海青等部义勇军，其余黑省部队都不再听他指挥。他自始至终，都用黑龙江省主席名义指挥军队。

2.丁超、李杜部

丁、李所领导的东北军，是驻吉步兵第二十八旅（丁兼旅长）、第二十六旅（旅长邢占清）、第二十二旅（旅长赵毅）和山林警备队三个营。他们抗日时，吸收了其他部分溃败的吉林省军队和一部分义勇军，与冯占海等部会同商定称为“吉林省自卫军”。

3.苏炳文部

苏所率领抗日的部队，为黑龙江省防军步兵第一旅（苏自兼旅长）和张殿九步兵第二旅张玉珽团，还吸收了一部分旧黑龙江军的残部如朴炳珊、徐宝珍等部，称为“东北民众救国军”。

4.冯占海部

冯所领导的是吉林卫队团全部和张作舟第二十五旅的两个团及临时招降胡匪编成的宫长海、姚秉乾两个旅，会合丁超、李杜、赵毅等部并称“吉林自卫军”，并曾接受了辽吉黑民众后援会（以下简称后援会）所给的东北义勇军第六军团的名义。

5.唐聚五部

唐原来是辽宁省东边镇守使于芷山（当时投敌）所兼步兵旅的第三团团长，抗日时先后组织了各县警察大队、义勇军、红枪会、大刀会等，称为“辽宁自卫军”，同时接受东北民众抗日救国会（以下简称救国会）所给的东北义勇军第三军区名义，后来又改组为后援会东北义勇军第三军团。

6.王德林部

王原来是吉兴部东北军部第二十七旅第一团第三营营长，率部参加抗日后曾吸收了延边一带的义勇军、大刀会、红枪会等，先称为“国民救国军”，后来参加了丁超、李杜的“吉林自卫军”。

7.警察大队

沈阳被日军占领后，辽宁省警务处长兼沈阳市警察局长黄显声和督察长熊飞由沈阳带出一部分警察和公安队，并在撤退途中收集了北宁铁路附近的警察人员，进行抗日。东边桓仁县警察大队长张宗周、柳河县警察大队长王凤阁、凤城县警察大队长郭景珊、复县警察大队长刘景文等各率其全部或一部分警察大队，参加抗日。

（二）旧军政人员

九一八事变时，东北军有不少旧军官如彭振国、李纯华、于百恩、郑桂林、贾秉彝、康悦臣、严经武等，有的已经退伍，有的在军事机关挂个空名义，也有的是现役军官。他们在事变以后，纷纷参加各部队抗日。因为他们多数是陆大、保定或东北讲武堂等军官学校毕业的，具有军事知识，所以大都在各部队中担任领导和参谋工作。此外，当时各部队还有一些政府官吏参加，他们多数在各义勇军总部工作。唐聚五部起义时，桓仁附近几个县的县长也都参加了自卫军，但以后多数中途变节投敌。

（三）收编的胡匪

东北历来素以胡匪著闻，吉、黑两省的宫长海（宫傻子）、姚秉乾（双山）、李忠义（海青）、张希武（天照应）、马鸣春（一只鸡）、刘万奎（刘快腿），辽宁省的项青山（项忠义）、张海天（老北风）、小白龙等，多数是积年惯匪。九一八事变以前，有的正在拉竿（组织匪帮），有的被关在狱中（如李海青），也有的已经被地方当局招降（如宫长海、姚秉乾）。事变以后，各地统治机构垮台，社会秩序混乱，乘机而起、临时抱山头者更风起云涌，纷纷受各部队收编，参加抗日。

（四）农民的秘密会社

原在关内豫东、鲁西、冀南一带的大刀会、红枪会等秘密会社，随着这些地区的农民出关谋生，也发展到东北各地。九一八事变以后，东北各地农民在日本侵略者蹂躏之下，无法从事耕种，一经号召，这些秘密组织便迅速发展起来，加入各部义勇军。吉林省敦化、延吉、东宁、海林、珠河，辽宁省东边一带的通化、桓仁、新宾等地，这一部分民间武力最为活跃。邢占清、孙秀岩两部义勇军中，以这一部分人数为最多。

（五）青年学生和知识分子

事变以后，除了东北各地的青年学生参加各抗日队伍之外，北平各大专学校及其他地方也都有不少青年学生出关投军，而以东北大学、东北中学和救国会所办的各种训练班（如学生军）的东北籍学生为最多。此外，何香凝先生发起的华侨青年救护队，直接参加了锦西前线的工作。又如国民党中央军校有学生四十多人愤于蒋介石的不抵抗政策，自动离校，到热河参加抗战。

事变以后，代表救国会出关工作的人员，如车向忱去黑龙江，徐靖远去吉林，黄宇宙去辽东，苗可秀去三角地带，宋黎、张希尧（宋、张等系中共党员）、张雅轩等去沈阳和辽西各地，都是出生入死，历尽艰辛，对各部义勇军起了宣传、推动和组织作用。在辽东惨遭日军集体屠杀的救国会分会人员，也多数是知识分子。