关于徽章，最早的文字记载来自我国，如《战国策·齐策一》记载：“秦假道韩魏以攻齐。齐威王使章子将而应之……章子为变其徽章，以杂秦军。”其实，这里所指的徽章，实际只是旗帜。在中国古代，较为著名的虎符、鱼符、腰牌等均是现在徽章的雏形，已具备了现在徽章、特别是凭证类徽章的特征。
在西方，早期的徽章主要作为一种首饰使用。欧洲军队佩戴的帽徽、肩章之类的标志成为早期徽章最常见的形式，拿破仑时代，军队中已经广泛使用。年，美国乔治·华盛顿建立了首枚军功章，这是第一枚面向所有官兵的奖章，并同时希望此举能开创一个永久的授勋体系。各国军队大都制定了对军队立功人员授予军功章的制度。军队对于有突出贡献或者战绩卓著的人员，重要的一项奖励就是颁发纪念章、勋章或者证书，这既是一种军人身份的象征，也是激励军人士气与上进心的一项手段。
二战期间，各国军队为了激励部队士气和表彰立功人员，设立了一系列奖章和勋章。这些标志和徽章作为一种特殊的装备，在战争中发挥着不可忽视的作用。除此之外，各国还投入了大量的人力和物力，组织众多参战部队，这些部队都具有明显的识别标志。
时至今日，各国军队均拥有自己的一套完整而全面的奖励体系。军事徽章因具有悠久的历史和象征意义，大多数都具有收藏价值。