1945年8月15日，这是一个值得纪念的日子，这一天，日本当着全世界的面，宣布无条件战败投降。而在投降之初，仍然有大批日军留在我国境内，作为战胜国的我们，自然也有权处置这些日本战俘，但是为了秉承人道主义原则，我们最终还是同意将这些日本士兵全部遣送回国。但在遣返之前，我方军队坚决表示：人可以回去，但他们的军刀必须留下，否则直接处决！

日本是一个崇尚武士刀精神的国家，所以军刀对于他们来说不只是武器那么简单，更是身份和地位的象征，当这个要求被提出之后，很多日本士兵都不答应，也不愿意把军刀留下，甚至还有日本士兵声称，如果不让他们把军刀带回，他们就剖腹自尽以此来谢罪。但这些话被蒋介石知道后，他也没有改变主意，并再三强调，军刀不可能还，想自尽随便。

虽然日军一直都被军国主义洗脑，但经历了常年的战争，他们的厌战情绪也十分严重，所以当时并没有士兵愿意为了一把军刀而切腹谢罪。相反，他们在听到中国的强硬言辞之后，也不再坚持要回军刀，因为他们都不舍得付出自己的生命，所以到最后日本军刀便全部留在了中国，放在中国的博物馆内，加以保存。

在抗战时期，日本士兵特别喜欢使用军刀最为自己的作战武器，尤其是一些有级别的军官，他们经常会用军刀杀死的人数，来标榜自己所立下的军功。因此，在有些军刀上面就会记录着日军杀害我们同胞的人数。所以，这些军刀是日本侵华的铁证，我们当然不能让日军就这样带走。