兵工厂自创建开始，就倍受重视和保护。1940年4月开始，由八路军总部特务团担负警卫任务。该团前身是1935年12月在陕西延长成立的中国工农红军总指挥部特务团，其更早渊源可追溯至井冈山红4军特务营。部队基础好，红军干部多，政治觉悟高，能打硬仗，半数官兵为共产党员，是总部高度信任的一支部队。当时，该团1营首先奉命开赴黄崖洞设防。同年11月，全团在团长欧致富、政委郭林祥的带领下进驻该地区。

黄崖洞，旧称黄烟洞，位于山西黎城县北45公里东崖底镇上赤峪村西的板山岭下，面积约10平方公里，因一座海拔1600米的黄色崖壁上有一个可容百人的天然山洞而得名。该区地形起伏，峰峦叠嶂，绝崖多，死角大，隐蔽地多，坡陡难登，联络困难，在战术上属于易守难攻之地。1939年7月，八路军军工部遵照朱德总司令和左权副参谋长的指示，在黄崖洞水窑山（亦称水腰山）建立兵工厂，主要生产步枪、手榴弹、马尾弹、50炮等，每年所生产的武器可装备16个团，是当时八路军的主要兵工基地。朱德总司令曾将该兵工厂誉为“掌上明珠”。

左权对黄崖洞的布防呕心沥血，亲力亲为。他一到工。

“谁怕冷风，谁怕冷雨，谁怕那雪花儿纷飞！勒住我们的战马，看一看黄崖洞边的血迹，数一数黄崖洞边的尸体！黄崖洞是我们的！黄崖洞是我们的！我们的英雄们在这里写下了英雄的诗篇！留下了光荣的记忆！”——129师先锋剧团《黄崖洞英雄赞》

八路军副总司令彭德怀指示该团，要据险修筑永久性工事，就地演练部队，做好打硬仗、恶仗的准备。副参谋长左权带着129师工兵主任王耀南亲自到特务团指导设防工作，领着特务团干部勘察地形，绘制地图，实地研究作战预案，确定了防御方向、兵力部署、阵地编成、火力配系、障碍设施和具体战法，并抽调129师385旅、386旅和新4旅的工兵连协助特务团修筑工事。