抗日战争中期，特别是1941年、1942年，中国共产党领导的敌后抗日战争处于极端困难阶段，国民党顽固派加紧对中共中央所在地陕甘宁边区的围困、封锁，并准备军事进攻。

为统一陕甘宁晋绥五省部队的领导与指挥，增强陕甘宁边区的防卫力量，中央军委于1942年5月13日决定，在延安设立陕甘宁晋绥联防军司令部，统一指挥第一二○师、留守兵团、晋西北军区及陕甘宁边区保安部队，使陕甘宁边区与晋绥根据地联成一片，形成统一的独立作战体系，以利应付蒋介石的军事进攻。这陕甘宁晋绥就是陕西、甘肃、宁夏、山西、绥远五省的简称。绥远省在当时直到建国初期是华北的一个省份，省会归绥(今呼和浩特市),包括今内蒙古自治区中部、南部地区。

同年6月10日，陕甘宁晋绥联防军司令部正式成立，领导人主要由晋西北军区和留守兵团首长组成：第一二○师师长兼晋西北军区司令员贺龙任联防军司令员，第一二○师政委兼晋西北军区政委关向应任联防军政委（在关养病期间，由高岗代理），原八路军第一纵队司令员徐向前任联防军第一副司令员兼参谋长，留守兵团司令员兼政委萧劲光任联防军第二副司令员，陕甘宁边区保安司令部司令员兼政委高岗、晋西区党委书记林枫（后任晋绥军区副政委）任联防军副政委（后谭政）。

陕甘宁晋绥联防军司令部旧址（1942—1947年，延安市宝塔区城区北关街延安中学院内）

《徐向前回忆录》中提到的，组建联防军之前，朱总司令对他说：中央决定成立联防司令部，就是为了统一晋西北和边区的军事行动，充分做好应变的准备。如果胡宗南打过来，晋西北的部队马上开来参战，保卫边区;那边可由晋察冀和一二○师调部队填防。

红军时期，贺龙是红二方面军总指挥，徐向前是红四方面军总指挥。两位老总在联防军工作中配合默契。

朱德总司令与贺龙、徐向前

1942年9月15日，中央军委决定，留守兵团司令部并入陕甘宁晋绥联防军司令部。10月，晋西北军区改称晋绥军区(由第一二○师兼)，其所属部队直接由陕甘宁晋绥联防军司令部指挥，联防军对外以留守兵团名义出现。至1942年底，联防军总兵力为75000余人。

1943年5月，联防军为防止国民党军队闪击陕甘宁边区，先后将第一二○师第三五八旅和独立第一旅由华北调往陕甘宁边区，以保卫党中央和陕甘宁边区的安全。1944年春，中央军委从华北抽调3支精锐部队，开赴陕甘宁边区归联防军指挥:一支是杨得志率领的由冀鲁豫军区6个团组成的西进支队，8月改称联防军教导第一旅;一支是黄永胜、邓华率领的由晋察冀军区6个团组成的机动旅，同年秋编为联防军教导第二旅;另一支是王近山、徐立清率领的第一二九师3个团组成的新编第四旅。

为了在敌后开辟新的抗日根据地，第三五九旅一部于同年10月奉命改编为八路军独立第一游击支队，南下湘粤边。1945年5月，中央军委决定，第三五九旅留驻陕甘宁边区的部队组成八路军独立第二游击支队;联防军警备第一旅改编为八路军独立第三游击支队。同年6月，八路军独立第二、第三游击支队由延安出发南下。

为适应抗日战争大反攻的需要，中央军委于1945年8月对联防军作了较大调整。8月11日，中央军委命令成立晋绥野战军，直接归中央军委领导，由司令员贺龙、副政委李井泉统一指挥。其所辖部队第三五八旅、独立第一旅、骑兵旅等部在贺龙指挥下开赴察绥前线作战。联防军只指挥驻陕甘宁边区部队教导第一、第二旅，警备第一、第三旅，新编第四旅，第三八五旅等部，高岗任司令员兼政委，担负保卫边区的任务。

陕甘宁晋绥联防军司令部旧址（1947年8月至10月，山西临县沙垣村）

解放战争时期，1948年3月17日，陕甘宁晋绥联防军改称中国人民解放军陕甘宁晋绥联防军区。1949年2月1日，根据中共中央军委1948年11月1日关于统一全军编制及部队番号的命令，陕甘宁晋绥联防军区改称西北军区。

陕甘宁晋绥联防军编制序列

联防司令部:

司令员贺龙

政委关向应

副司令员徐向前、肖劲光

副政委高岗、林枫、谭政

参谋长徐向前（兼）、张经武

副参谋长陈伯钧

政治部主任谭政

副主任傅钟、甘泗淇

(一)陕甘宁留守兵团(只保留番号，领导机构即联防司令部):

第三八五旅兼陇东军分区:司令员王维舟，政委甘渭汉、马文瑞

第三五九旅兼绥德军分区:司令员王震，政委张邦英

警备第一旅兼关中军分区:司令员文年生，政委阎红彦

警备第三旅兼三边军分区:司令员贺晋年，政委罗志敏

骑兵旅：旅长康建民，政委朱子修

教导第一旅：旅长杨得志，政委张仲良

教导第二旅：旅长黄永胜，政委邓华

新编第四旅:旅长王近山，政委徐立清

(二)晋西北（晋绥）军区:

司令员贺龙(兼）

政委关向应(兼)

副司令员续范亭

副政委林枫

参谋长周士第

政治部主任甘泗淇

独立第二旅兼第二军分区:旅长兼司令员许光达，政委张平化

第三五八旅兼第三军分区:旅长兼司令员张宗逊，政委李井泉，副旅长兼副司令员贺炳炎

独立第一旅兼第四军分区:司令员高士一，政委冼恒汉

第五军分区:司令员郭鹏，政委胡全

第六军分区(决死第四纵队兼):司令员雷任民，政委刘文珍

第八军分区(决死二纵队兼):司令员兼政委韩钧、罗贵波

塞北军分区：司令员姚喆，政委高克林

直属军分区:司令员陈漫远(兼)

河防司令部:司令员杨嘉瑞，政委武开章

陕甘宁晋绥联防军存在时间并不长，可能名气也不是很大，但名将云集，共有1955年授衔的两位元帅：贺龙、徐向前；三位大将：肖劲光、谭政、许光达；十一位上将：陈伯钧、傅钟、甘泗淇、王震、阎红彦、杨得志、黄永胜、邓华、周士第、张宗逊、贺炳炎，还有徐立清、王近山、廖汉生、余秋里等二十多位中将。