TikTok传播的谋杀案受害儿童的AI形象

TikTok（海外版抖音）的深度造假是真实的、可怕的，有可能让谋杀案的受害者家人再次受害。

如今，真实犯罪是一个越来越受欢迎的话题，但TikTok上的一些用户制作了逼真的人工智能（AI技术）生成的谋杀案受害者（通常是年幼的孩子）视频，并让他们讨论自己是如何被杀的，这让社会对真实犯罪的兴趣达到了令人不安的程度。

美国纽黑文大学刑事司法助理教授保罗·布莱克利（Paul Bleakley）在接受《滚石》杂志采访时表示：“他们非常奇怪，令人毛骨悚然。他们似乎是为了引发强烈的情感反应而设计的，因为这是获得点击量和点赞量的最可靠的方式。看着很不舒服，但我认为这可能就是重点。”

TikTok传播的谋杀案受害儿童的AI形象

像@truestorynow和Nostalgia Narratives这样的账号有成千上万的粉丝，他们上传了一些真实的视频，视频中谋杀案受害者平静地描述了他们被谋杀时发生的事情。有些画面的是著名的成年受害者，比如乔治·弗洛伊德（George Floyd），但也有很多画面的是小孩子。

@truestorynow上发布的一个AI生成的深度伪造视频在一个简短的剪辑中说：“当我只有21个月大的时候，奶奶把我锁在了一个110摄氏度的烤箱里。”视频中的小女孩名叫罗迪·玛丽·弗洛伊德（Rody Marie Floyd），她讲述了现实中罗伊尔蒂·玛丽·弗洛伊德（Royalty Marie Floyd）的真实故事，这个20个月大的女孩在2018年被祖母捅伤，然后放在烤箱里烧死。

TikTok传播的谋杀案受害儿童的AI形象

罗伊尔蒂的母亲在她去世后在Facebook（美国社交平台“脸书”）上写道：“罗伊尔蒂·玛丽·弗洛伊德是我一生中最美好的事情，她是我唯一的女儿，我的最爱，这是我这辈子经历过的最艰难的事，我的心已经从我的胸膛里被撕裂了。”

像“罗迪”这样的视频在TikTok上有数百万的观看量。

《滚石》杂志报道称，像“@Nostalgia Narratives”这样的账号声称，出于“对家属的尊重”，他们没有使用受害者的真实照片来制作深度造假。然而，在TikTok上使用这些图片也是被禁止的，该平台的社区指导方针禁止对个人或年轻人进行深度虚假描述。

TikTok传播的谋杀案受害儿童的AI形象

不管照片是否真实，这个故事是真实的。像保罗这样的专家认为，这样未经对方允许使用的内容最终会伤害谋杀案受害者的亲人。

保罗在接受《滚石》杂志采访时表示：“像这样的事情真的有可能让那些曾经遭受过伤害的人再次受到受害。想象一下，在这些AI视频中，你是其中一个孩子的父母或亲戚。当你上网时，你会看到一个奇怪的、尖锐的声音，这是一个基于你死去的孩子的AI图像，它非常详细地讲述了发生在他们身上的事情。”

网友伤心地看到TikTok上谋杀案受害儿童的AI形象

据《滚石》杂志报道，目前，这样的视频是完全合法的。没有联邦法律明确禁止未经同意的深度伪造图像和视频。尽管谋杀案受害者的家属可能会觉得深度造假令人不安，但他们没有明确的法律追索权。

更重要的是，现在出现在TikTok上谋杀案受害者的AI视频只会变得更糟。正如《滚石》杂志所指出的，没有什么能阻止内容创作者使用AI重现犯罪，甚至精确到每个可怕的细节。

网友伤心地看到TikTok上谋杀案受害儿童的AI形象

保罗说：“这是任何新技术发展都会遇到的问题，什么时候才能停止呢？”

TikTok已经采取行动，遏制了谋杀案受害者深度造假的浪潮。据《滚石》杂志报道，拥有近5万名粉丝的@truestorynow账号已被删除。然而，在整个平台上，其他深度造假仍然很容易找到。