牙通衙，古代大将出镇，例建牙旗，仗节而行，因而他们的官署称牙，后作衙。唐朝节度使是独镇一方的将帅，他们出镇，赐双旌双节，行则建节，树六纛。援古例称官署为牙，称所树之旗为牙旗，称所居之城为牙城，所居之屋为牙宅，称朝见主帅为牙参，称所亲之将为牙将，卫队为牙队，而亲兵则称牙兵。
藩镇割据
纵观整个晚唐五代史，较为著名的牙兵部队有:朱温的厅子都、后梁魏博节度使杨师厚的银枪效节都、李克用的鸦军、李存勖的帐前银枪都等等。这些牙兵一般在节度使帐下根据不同的需要扮演着各种不同的角色。当战事陷入焦灼时，他们是用来打破僵局的精锐之师；当主帅出入幕府时，他们是用来环卫四周的护卫之师；当行伍失去秩序时，他们是用来弹压叛变的纪律之师；当主帅令他们不满意时，他们也是叛军主力
兵骄则逐帅，帅强则叛上。
——《新唐书·兵志》
晚唐牙兵最为骄横的当属魏博镇牙兵。其节度使史宪诚、何进滔、韩允忠、乐彦祯、罗弘信皆为牙军拥立。而史宪诚、何全皞、韩简、乐彦祯又都因为不能满足牙军的经济需求而被杀。到了五代时，五十三年之间，“易五姓十三君，而亡国被弑者八。”又都有牙兵参与其事。
李克用的漫画形象
骄横源头牙兵骄横，但兴起缘由却和安史之乱后天下长期处于战乱有着脱不开的关系。例如曾有人向河东节度使李克用进言“亲军万名，皆边部人，动违纪律，人甚苦之。”但李克用却认为“今四方诸侯皆悬重赏以募勇士，吾若束之以法，急则弃吾，吾安能独保此乎！”各路藩镇节度使为了笼络勇士为己所用，不得不在各方面都放纵他们。如果战争能早日结束的话，这些放纵的机会尚可迅速收回，牙兵们不至于有机会反噬主帅。但安史之乱后，天下兵戈不息达百余年之久，牙兵们不仅有机会长期把持，还想世代把持放纵的待遇，便搞起了父死子继。老一辈在位时将大量子弟安置于军中，死后子弟接班，子弟死后，后世子孙继续。同时，各个牙兵家庭之间又广为联姻，以壮大势力。时日一长，放纵就成了理所应当，不管下一任是哪个当节度使，只要敢动他们的奶酪，牙兵便群起而攻之，成为了一个特殊的利益集团。
宋太祖赵匡胤像
牙兵末日显德七年(960年)正月初四，掌握禁军的归德(治宋州，今河南商丘南)节度使、殿前都点检赵匡胤，乘“主少国疑”之机，发动“陈桥兵变”，夺取了后周政权，建立宋王朝(史称北宋)，改元建隆。继位的赵匡胤虽然自己也是靠牙兵作乱起家的，但却一手完成消灭牙兵集团的任务。赵匡胤先是用“杯酒释兵权”的方式，兵不血刃的收回了统兵将领们的超出常理的权力，再是建立殿前司、侍卫马军司、侍卫步军司将军队重新置于国家制度的管控中，结束了晚唐五代时士兵只听命于将领，将领再听命于皇帝的模式，同时，对将领实行转员之制，经常调动，使兵将分离，做到兵无常帅，帅无常师，难以结成盘根错节的关系，恃兵傲上。
自此，牙兵们一是失去了战争这个耐以生存的环境背景；二是失去了抱团这个奈以发力的串联机会；三是宋朝皇帝不再给予牙兵们新的非法恩赐。于是，牙兵这个特殊的集团逐渐走下了晚唐五代以来的历史舞台。
