中国最早的“军歌”根本就是“有色歌曲”，只是到了曾国藩治军，才有了现代意义上的军歌。
为什么军歌是从曾国藩那出来的？因为他信奉儒教。在军队当兵都苦。而当兵都是青年小伙子，青春正旺，但是又不能成家。别说过去现在也是啊，当兵三年老母猪赛貂禅啊，他看不到女人啊。那么晚清的士兵唱啥啊？风华正茂嗷嗷叫，就唱一些家乡的淫词烂调，“一碗烈酒在心头，两眼泪花流，心里想个妹妹，一搂睡到日上三竿头。”这时，曾国藩就觉得不行，这不影响他自己的声誉吗？那哪能成啊，不行，得弄个调规范规范。这是有他的想法，这是他招的兵啊，为官这么多年宦海之术他门清着那。这大清国满人是爷爷，汉族是孙子，汉族人官再大，弄不好也招杀身之祸啊。曾国藩事业惊天动地，但是走路如履薄冰，得谨慎啊，弄不好脑袋就掉了，我不能让你找到我一点的破绽，于是，两者结合在一起他创制了《水师得胜歌》、《陆军得胜歌》、《爱民歌》和《解散歌》。《解散歌》创作于咸丰十一年(1861年），属于特殊时代的产物。当时，太平天国起义已经接近尾声，曾国藩特别创作了《解散歌》，告诉官兵应该如何对待那些屈从于起义队伍的百姓。《爱民歌》创作于咸丰八年(1858年），针对的则是历来官军扰民、侵民，甚至杀害民众的恶习：
三军个个仔细听，行军先要爱百姓。贼匪害了百姓们，全靠官兵来救人。百姓被贼吃了苦，全靠官兵来做主。第一扎营不要懒，莫走人家取门板。莫拆民房搬砖石，莫踹禾苗坏田产。莫打民间鸭和鸡，莫借民间锅和碗。
歌中将扎营、打仗、行军、军纪、军器以及操练中兵卒应该注意的事项一一说明，非常实用。
曾国藩创作这四首军歌，都比较实用，是曾国藩属下官兵的“军旅生活指南”。这些军歌所展现的军队生活还比较传统，军器的主角还是“梨花枪”和“大刀”，对军人的激励还是传统的“升官发财”。如《水师得胜歌》的结尾：“仔细听我得胜歌，升官发财笑呵呵。”可以说，这些军歌体现了传统的军人形象。梁启超曾在《致伍致庸星使书》中提到：“昔王文成在军中，自编俗语歌诀，口授军士，以作其敌忾之气。近曾文正亦用其法，以授前敌及围城中人。此教乡曲粗人莫善之良法也。”
“三大纪律八项注意”的原始版——张之洞的军歌
1895年以后，受中日甲午战争惨败的刺激，清政府开始编练新军。新军以西方军队建制为模型，因此以往清军中的旧式鼓吹乐很快消失，取而代之的是作为新军编制一部分的军乐队。同时，军歌的创作也因为面临不同的时代氛围具有了全新的的特色。
中国在甲午战争中的失利，使近代的有识之士将学习的目光从西洋转向了东洋。戊戌变法失败后，逃亡或留学到日本的国人，作为战败一方的国民，对日本举国“尚武”、“崇尚军人”的风气既“惊”且“羡”：
冬腊之间，日本兵营士卒，休憩瓜代之时，余偶信步游上野，满街红白之标帜相接……盖兵卒入营出营之时，亲友宗族相与迎送之以为光宠者也……其为荣耀则虽我中国入学中举簪花时不是过也。其标上仅书欢迎某君送某君等字样，无甚赞颂祝祷之语。余于就中见二三标，乃送入营者，题曰“祈战死”三字。
余见之矍然肃然，流连而不能去。
他们认为日本能立国维新，战胜我国及俄国，“果以是也”。与“尚武”精神相配合，日本军歌的创作与使用蔚为大观，并在战争期间——尤其是中日甲午和日俄乙未战争期间——起到了非常大的作用。蔡锷因此在《军国民篇》中愤然指责我国音乐“自秦汉以至今日，皆郑声也，靡靡之音，哀怨之气，弥漫国内，乌得有刚毅沉雄之国民也哉”。音乐淫靡被认为是导致国人文弱、缺乏“尚武”精神的主要原因之一。这种观点一经蔡锷提出，就得到梁启超的大声附和：“中国人无尚武精神，其原因甚多，而音乐靡曼亦其一端，此近世识者所同道也。”（《饮冰室诗话》）从此，以“尚武”的音乐，尤其是军歌来培养国民“尚武”风气的观点，在晚清大行其道。
正是在这种“尚武”的文化氛围中，张之洞为其组建的新军创作了一首《军歌》，其曲调与《三大纪律八项注意》一样，内容为：
大清深仁厚泽十馀朝，列圣相承无异舜和尧。刑罚最轻钱粮又最少，汉唐元明谁比本朝高。爱民礼士善政说不了，我祖我父世世受恩膏。况我兵丁重饷蒙温饱，养之千日用之在一朝。我等天性忠勇思报效，作歌奉劝军中我同胞。我朝龙兴长白非荒渺，医巫闾山古名经书标。近距直隶不过三千里，不比广西云南万里遥。天下一家建设东三省，内外蒙古新疆一齐包。满蒙汉人皆是同黄种，同种固结外人难动摇。———（第一段）
军歌的结尾，以时事相激励：方今五洲万国如虎豹，倚恃强兵利械将人骄。我国文弱外人多耻笑，若不自强瓜分岂能逃。请看印度国土并非小，为奴为马不得脱笼牢。请看犹太国名本古老，只因无君践踏如草茅。请看日本区区三海岛，威我强国全球敬且褒。不羡日本善用船与炮，只羡全国人心如漆胶。我有同种国民四百兆，何难发愤为雄展龙韬。欲保国家须要精兵保，欲保种族须联我同胞。保国保种必须保孔教，圣门学生佩剑兼用矛。楚军楚将从古声名好，封侯拜相平地登云霄。圣人在上万年长有道，忠孝为本方是真英豪。——（第四段)
与曾国藩的旧军歌相比，时代的变迁，国际、国内形势的恶化，使张之洞编写的这首新军歌呈现出非常不同的时代特色。曾国藩组建的军队是一支为镇压国内起义而诞生的军队，因此对“朝廷”的忠诚是不需要提及的。尤其是当时，虽然西方列强对中国的侵略已经开始，但是清政府的统治远没有达到崩溃的边缘，甚至还出现了所谓的“中兴”。而张之洞的军歌却发布于光绪三十年(1904年），此时的晚清政府已经经历了太平天国、义和团两次内乱，经历了中英、中法，特别是中日甲午以及八国联军侵华等多次战争的失败，签订了一系列丧权辱国的条约，面临被瓜分的危险，而戊戌维新以失败告终，新政又差强人意。因此“群乃知政府不足与图治，顿有掊击之意矣”（鲁迅《中国小说史略》)。也就是说，此时清政府政权的崩溃已经表面化，统治基础已然发生了动摇。因此，深受中国传统忠君思想教育的张之洞在创作军歌时，对“忠”的提倡成为歌词的重心。
“教忠”在张之洞的教育理念中一直占有重要地位。在《劝学篇》中，“教忠”是《内篇》第二。文章以“自汉以来，国家爱民之厚，未有过于我圣清者也”开头。然后列举出“薄赋”、“宽民”、“救灾”、“惠工”、“恤商”、“减贡”、“戒侈”、“恤军”、“行权”、“慎刑”、“覆远”、“戢兵”、“重士”、“修法”、“劝忠”等仁政十五条。这首军歌的开头可以说是其“忠君”思想的浓缩版。不过，如同《劝学篇》一样，这种对清政府历来善政的述说，同样隐约地传达出当时国人对清政府统治的不满。尤其是1903年，邹容的《革命军》与章太炎的《驳康有为论革命书》同时出版。一时之间，“排满”、“革命”的主张甚嚣尘上。为了化解对满清政府“贪暴”、“夷狄”的指责，张之洞在歌词中除了言及清政府的“善政”外，还特别强调清朝的龙兴之地在中国古代经书中早有记载，而且离中原本土并不遥远。这些言辞暗含着劝导中国人不能将满人以“夷狄”来对待的意思。张之洞借用梁启超等人大力提倡的“合群”理念，以“满蒙汉人皆是同黄种”相号召，呼吁国人在外敌当前的情况下，放下民族内部争端，将满人作为同种来对待(而不是传统的呼吁满人要平等地对待汉人），这样才可以“同种固结外人难动摇”。
军歌的结尾虽然保留了传统以“封侯拜相”激励军人的话语，却也用大量篇幅述说了当前的严峻形势，并以印度、犹太的亡国，日本的崛起号召军人保家卫国，“欲保国家须要精兵保”。军歌中要求军队“效忠”的对象是朝廷，现在却以“国家”的存亡来激励军队。这一方面体现了近代政治由以“朝廷”为中心转向以“国家”为中心的历史现实，另一方面也暗中揭示了“清政府”号召力的衰落。军歌的最后再次根据近代的“合群”理念，要求军队以“救亡”为己任，放下成见，“欲保种族须联我同胞”，然后将这种顾全大局的义气，偷梁换柱，变为对清政府的效忠，“忠孝为本方是真英豪”，从而完成了对军队要“终于朝廷”的劝说。整首军歌以一种“劝诱”而非“命令”的口吻，在“忠”字上反复地言说，反映出清政府强势地位的丧失。同时，“忠诚”对象的暗中偷换，反过来也揭示出近代军人由服务于“朝廷”防“家贼”到服务于“国家”求“外竞”的转变。
梁启超曾在《中国魂安在乎》中说：“中国之有兵也，所以钤制其民也。夺民之性命财产，私为己有。惧民之知之而复之也，于是乎有兵。故政府之视民也如盗贼，民之视政府亦如盗贼。兵之待民也如草芥，民之待兵也亦如草芥。”所以，以之求国人崇敬军人，以从军为乐事，不啻于缘木求鱼，而希望以如是之军队求“外竞”更是痴人说梦。梁启超因此认为，“今日所最要者，则制造中国魂是也。中国魂者何？兵魂是也。有有魂之兵，斯为有魂之国”。何为“兵之魂”呢？“夫所谓爱国心与自爱心者，则兵之魂也”。也就是说，为求外竞，必须以“爱国心”与“自爱心”重新塑造中国之“兵魂”。而张之洞在其《军歌》中以国之危亡呼吁军人保家卫国，正是基于此种要求。近代的军人已经不再是“朝廷鹰犬”，而是肩负着民族兴亡的“国家柱石”。
