据英国《卫报》10月28日报道，英国博尔顿皇家法院对一起涉及人工智能技术的犯罪案件进行了宣判。27岁的休·尼尔森因利用名为Daz 3D的计算机程序，将儿童正常照片转化为性虐待图像，被判处18年监禁。这是英国首次对此类犯罪进行起诉，案件引发了广泛关注。

英国《卫报》报道

据悉，休·尼尔森来自博尔顿，他在大曼彻斯特警方（GMP）的调查中被发现使用名为Daz 3D的计算机程序，将儿童的正常照片转化为性虐待图像。这些图像都源自无辜儿童的真实照片。

在某些情况下，休·尼尔森甚至接受恋童癖者的委托，使用他们提供的儿童照片来制作这些图像。此外，他还因鼓励其他罪犯实施强奸而被认定有罪。休·尼尔森在互联网聊天室中出售他的图像，与其他罪犯讨论儿童性虐待问题，并在18个月内通过在线销售图片赚了约5000英镑。他是如何通过AI技术进行牟利的？

3D技术也被用来作恶

这起案件不仅涉及“深度造假”技术，即一张脸被转移到另一张身体上，而且休·尼尔森还使用无辜儿童的照片创造了3D“角色”，进一步加剧了其犯罪的恶劣性质。在宣判时，马丁·沃尔什（Martin Walsh）法官表示，无法确定是否有儿童因其制作的图像而被强奸，但尼尔森没有考虑分发这些材料所造成的伤害，其堕落程度似乎没有限制。

图片来源：sky news

据法院透露，休·尼尔森在在线聊天室中被一名卧底警官抓获，当时他声称已经使用提供的图片创建了多个新角色，并收取了费用。他还向警官炫耀自己制作过的各种虐待图像，包括殴打、窒息、绞刑、溺水和斩首等。

此外，警方在搜查休·尼尔森的设备时还发现，他与三个不同的人交换了信息，鼓励他们对13岁以下的儿童实施强奸。在调查过程中，警官确认了世界各地的嫌疑人和受害者，包括意大利、法国和美国。

尼尔森的辩护律师在法庭上称，尼尔森一直在父母家中过着“孤独的卧室生活”（lonely bedroom life）。他挣钱少，极度渴望得到认可，制作性虐待图像让他完全沉迷其中。

英国皇家检控署特别检察官珍妮特·史密斯（Jeanette Smith）表示，休·尼尔森能够利用人工智能工具和计算机程序对儿童正常照片进行改造，并创建最堕落的图像以便在线销售和分享，这非常令人不安。她希望这一定罪能向那些利用这项技术并对儿童造成伤害的人发出明确的信息：他们将受到执法部门的强烈追捕、起诉和惩罚。

美国士兵也以身试法

类似的案件并非仅限于英国。据科技网站Engadget报道，今年8月，美国一名士兵因涉嫌使用人工智能生成儿童性虐待材料（CSAM）被捕；而威斯康星州一名男子因涉嫌制作超过1.3万张儿童性虐待图像面临70年监禁。

此外，在去年年底，总部位于英国的互联网观察基金（IWF）在一份报告中警告称，如果不对生成深度伪造照片的人工智能工具进行控制，互联网上已存在的儿童性虐待图像问题可能会变得更加严重。该监管机构敦促各国政府和技术提供商迅速采取行动，以防止深度伪造的儿童性虐待图像席卷执法调查人员，并极大扩大潜在受害者的范围。

互联网观察基金首席技术官丹·塞克斯顿（Dan Sexton）表示：“我们不是在谈论它可能造成的危害，而是在说这正在发生，而且需要立即解决。”

报告中首次提到，韩国一名男子于9月被判刑2年半，因使用人工智能制作360度虚拟儿童虐待图像，这是韩国首次发生这样的案件。在西班牙西南部的一所学校，警方调查了青少年使用手机应用程序使穿着衣服的同学在照片中显露裸体的行为。

报告中写到，AI系统允许用户用文字描述他们想要制作的内容，从电子邮件到小说艺术作品或视频，然后由系统生成。如果不加以制止，深度伪造的儿童性虐待图像可能会使调查人员陷入营救事实上是虚拟人物的困境。作恶者还可以利用这些图像来勾引和胁迫新的受害者。

塞克斯顿表示，互联网观察基金分析人员发现在线上出现了名人儿童的面孔，以及对“已经被虐待，可能是多年前”的儿童创建更多图像的“巨大需求”。

“AI巨头”在行动

其实早在今年 2 月 ，欧盟委员会宣布，根据更新现有立法以跟上技术发展步伐的计划，人工智能生成的图像和其他形式描绘儿童性虐待（CSA）的深度伪造行为在欧盟可能会被定为刑事犯罪。

随后月底，德国举行的慕尼黑安全会议（MSC）上，20家人工智能相关行业公司签署了《在2024 年选举中打击人工智能欺骗性使用的技术协议》，签署者在协议中表示，愿意共同合作检测技术等工具，以发现、标记和揭穿人工智能操纵的公众人物图像和音频的“深度伪造”；更多地公开如何在平台上打击人工智能生成的虚假信息。

《双输？——2024年慕尼黑安全报告》封面

据联合声明，签署方包括了这一领域的主要玩家，比如人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能帮助其传播的社交媒体平台，比如TikTok 、X，以及Facebook和Instagram的母公司Meta等。

值得注意的是，另一个流行的人工智能图像生成器公司Midjourney缺席。

休·尼尔森案件的判定也能算是为“AI作恶”的道路增加一个绊脚石。阻止“AI作恶”道阻且长。