一家网红平台举办的一场颇具争议的比赛，竟然将奖项授予了三位根本不存在的人物。一家名为Fanvue的网红平台最近公布了其首次“AI小姐”选美比赛的结果，该比赛旨在评选由人工智能生成的社交媒体网红，同时也作为一场便捷的宣传噱头。

所谓的“胜出者”是一位名为Kenza Layli的虚构Instagram网红，她来自摩洛哥，拥有超过20万粉丝。然而，这场选美比赛已经招来了人们对AI领域女性的批评。

Hugging Face的AI研究员Dr. Sasha Luccioni博士在接受Ars Technica采访时说：“这是又一个在使用AI物化女性道路上的垫脚石。”作为一名在这个领域工作的女性，我并不感到惊讶，但对此感到失望。”据报道，自从像Stable Diffusion这样的图像合成工具免费提供以来，AI生成的Instagram网红数量一直在上升，这些工具让人们能够轻易地按需生成大量具有挑逗性的女性图像。而Dreambooth等技术则允许对AI模型进行特定主题（包括AI生成的主题）的微调，以便将其置于不同的场景之中。

这表明，随着AI技术的普及和易于使用，它们不仅被用于创造虚拟网红，而且还可能加剧性别刻板印象，并可能被用来制作潜在的色情或令人不适的内容。这一现象引发了对于技术如何被利用，以及它可能对社会价值观和个体尊严产生何种影响的担忧。

Luccioni博士的评论反映出AI行业内女性对于这种趋势的复杂情感，既包含了预期中的无奈，也表达了对行业发展方向的深切忧虑。

这项技术自2022年出现以来就一直受到批评，因此批评家们认为“AI小姐”比赛树立了一个不幸的先例并物化了女性，这并不令人意外。“在一个性别多样性如此明显缺失的领域，用AI来生成理想女性形象的图象，这并不让人感到惊讶，”Luccioni说道。然而，“世界AI创作者大奖”（WAICAS）的一部分——这场竞赛似乎设计得即便负面报道也能为一家通过在线注意力变现的公司带来宣传效果，无论这种注意力是否与AI相关。从某种程度上讲，更大的新闻是AI生成的虚假内容已经渗透到文化中，以至于像CNN这样的媒体现在似乎会把AI生成的假人图像当作真人来提及。

在一篇标题为“首位AI小姐诞生——她是一位摩洛哥生活方式影响者”的CNN文章中，时尚记者Jacqui Palumbo写道：“让我们认识一下Kenza Layli，一位摩洛哥生活方式的影响者，她希望给AI创作领域带来‘多样性和包容性’。

Layli拥有近20万Instagram粉丝，以及额外的4.5万TikTok粉丝，从她的图像到配文，乃至充满流行语的获奖感言，她完全是AI生成的。”这显示了AI生成的人物已经达到了足以迷惑公众的程度，以至于主流媒体会以对待真实人物的方式来报道他们，尽管实际上他们只是算法的产物。这种现象引发了关于技术伦理、真实性以及人工智能如何重塑我们对身份和现实认知的讨论。

当然，不可能见到Layli——因为她并不是真实存在的。Layli是由Phoenix AI机构创始人Myriam Bessa创造的，据报道，Bessa将因其创作获得5000美元现金奖励。CNN随后引用了一段Layli的视频获奖感言，这段视频看起来像是一个真实人的视频，但脸部被AI生成的形象所替换：“随着我们向前迈进，我致力于在这一领域促进多样性和包容性，确保每个人都能在科技进步的桌面上有一席之地。”这段讲话几乎没有什么实质意义，要么是软件自动生成的，要么是由其人类创造者代笔的。

两位亚军

“AI小姐”竞赛中还有第二名和第三名获奖者：在法国创建的Lalina，以及在葡萄牙创建的Olicia C。快速浏览她们的Instagram账号，可以看到这些虚拟女性身着比基尼，在异国情调和艺术氛围的场景中的照片。四位评委组成的评审团决定了获胜者，其中两位评委看起来也可能是由AI生成的。这个竞赛不仅展示了AI技术在生成逼真人物图像方面的进步，同时也揭示了社会对于技术与人性边界的模糊理解。

AI生成的角色能够吸引大量关注，甚至在某些方面被视作与真实人物无异，这反映了技术如何改变我们对于身份和真实性的观念。同时，这种现象也引发了一系列伦理和社会问题，包括对个人隐私、版权以及AI技术可能带来的误导性使用的担忧。

令人困惑的是，比赛的规则似乎将虚构角色与其创造者混为一谈，说明参赛者根据三个标准进行评判：美丽（包括选美标准如“仪态”以及回答诸如“如果你有一个梦想来让世界变得更美好，那会是什么？”之类的问题）、技术（根据实现AI模型的技能和渲染视觉细节的能力得分）以及社交影响力（基于社交媒体粉丝数量和与粉丝的互动程度）。

当我们向AI伦理研究者玛格丽特·米切尔博士（同时也是Hugging Face的一员）询问她对这场比赛的看法时，她回应了一系列问题，这些问题反映了我们同样感到的困惑。“这本意是为了赋予AI创造者力量？但随后胜出者却是AI生成的？这些是创造者还是AI生成的人物？或者说只有‘肯扎’是AI生成的，并且她赢得了比赛，而其他选手不是？这是怎么回事？”当我们提到了上述的CNN文章时，米切尔回应说，“好吧，我明白了。选美是针对AI生成的女性，但是WAICAS网站上的描述让人觉得它更像在赋能创造者，而非它实际在做的事情，即强化不切实际的美貌标准。”

这表明，尽管比赛可能旨在展示AI创造者的技能，但实际上却可能无意间加强了对于美的刻板印象，而这正是AI伦理学者们关注和批评的焦点。

在米切尔看来，AI网红的趋势似乎加剧了已有人类网红存在的问题：他们可以随意挑选并操纵图片，呈现出一种不切实际的现实观，一些研究人员认为这可能会对在线观看这些形象的女孩和女性产生负面影响。“我想到这会对女孩们的自我形象造成怎样的伤害就感到不安，”米切尔说。

“芭比娃娃已经制造了足够多的问题，而且它甚至并不设计成看起来像真实的人。当不符合实际的女性标准受到奖励时，正在成长中的女孩对着镜子看自己，会看到自己在诸多方面都不达标。接下来可能会出现的情况是：劣质护肤产品的大量增加、饮食障碍以及年轻青少年中的身体畸形恐惧症大幅上升。”