自基督教诞生之日起，牧师们的身影就已经常出没于军队当中，一边为士兵们提供宗教服务，一边随军游历传教，其中一些颇有学识的甚至可以担任智囊，但这一时期的牧师还不算军队的标准编制。
真正意义上的“随军牧师”概念最早于公元八世纪在德国确立，但不允许携带武器直接参与战斗。
英、法等国将随军牧师被带至美洲殖民地，参与了与印第安土著的战争。
《新英格兰的早期历史》一书中就曾记载，一支远征军在路线选择上遇到分歧，最终由一位牧师遵循“上帝的旨意”做出决断，选择了正确的进攻线路，大胜印第安土著。
1774年美国独立战争，乔治·华盛顿很重视随军牧师激发士气的作用，在1775年的大陆会议上将随军牧师正式设立为美军的一种军职。
美军有了“政委”。牧师首要职责是宣传教义、为士兵们做心理辅导、接受祷告以及对重伤者进行临终关怀、为死者的安葬等。同时他们作为军人，还有端起手中的燧发枪与英国“龙虾兵”战斗。
相对博学的随军牧师还是军中为数不多的知识分子，往往会帮助其他士兵写信，甚至教授给他们一些文化知识。
南北战争时期，随军牧师被统分为三类：团级牧师、军营牧师以及医院随军牧师。
军营牧师们最重要的职责，是在帐篷中、户外以及篝火旁举行礼拜仪式。这些军营牧师的职责还包括主持婚礼、洗礼；提供法律咨询和担任法律顾问；开办业余学校，教文盲士兵读书认字等。当军队有需要的时候，他们还要干一些信件收发，起草阵亡将士通知书，开救护车，以及在战争后期担任新兵教官、撰写每月的道德思想报告等杂活。
据统计，美国参与二战的1250万人中包含8896名随军牧师，他们的官职通常能达到上校级别（一战牧师通常是上尉）。在紧急情况下也有着和前苏联军队中政委所类似的替补指挥职能。
一战中美军牧师共获得了76枚奖章，共有23随军牧师牺牲在战场上。二战中它们共获得各项奖章2453枚，共有77人为国捐躯。
在后来的朝鲜战争、越南战争、海湾战争，以及持续至今叙利亚战争中，只要是有美军的地方就有随军牧师的身影出现。
现如今，想成为一名随军牧师必须得是神学专业硕士毕业，再进行三到四年的培训。
沙俄军队中也有一套非常严密的随军牧师制度。
苏俄内战爆发后，为确保新生政权对留用沙俄旧军官的控制，红军设立拥有军事决策否决权的政治委员。这一职位在内战结束后的1924年取消。
苏联曾于1937—1940年和1941—1942年两次短时间恢复政委制度。但在1942年，由于政委对军事主官的干预引发了诸多矛盾，斯大林最终采纳了高级将领的意见，于1942年秋季正式取消了“政治委员”体制。
取消拥有军事决策否决权的“政委”后，苏军改在各级部队设立了“指挥官政治事务副手”。他们负责军队的政治思想工作和党务活动，但属于军事主官的副职。这一政治工作体系一直延续到苏联解体。
苏联解体后，俄罗斯军队恢复了随军牧师传统。
