全民皆兵的意思是指把能参加战斗的人民全都武装起来，随时准备歼灭入侵之敌。

全民皆兵一词最早出现于1958年7月22日通过的中共中央军事委员会扩大会议决议中。决议提出，必须积极积蓄和壮大后备力量，贯彻执行把预备役和民兵合二为一、实现全民皆兵的方针。为实现全民皆兵，决议改变了《中华人民共和国民兵组织暂行条例》附则明确的工厂、矿山、商店、公私企业等单位和大、中城市市区内不建立民兵组织的规定，强调除基干民兵的纺织和装备必须加强外，无论城市、农村，无论学校、企业、机关、街道，凡符合一定年龄的公民，必须逐步做到人人接受军事训练，人人学会使用普通武器，彻底解决平时养兵少、战时用兵多的矛盾。