最近，人工智能无疑是最热门的话题，从 AI 画图的惊艳亮相，到 ChatGPT 引发的资本、企业与创业者的狂热跟进，整个行业呈现出一片蓬勃发展的景象。
01直到那起号称 “AI 诈骗第一案” 的新闻出现。有人举办了一场游艇女仆 party 活动，每位报名费 3000 元，宣称有一对一女仆陪侍服务。但很快，机智的网友就发现，活动中放出的女仆照片全是 AI 绘图生成的，这显然是一个骗取报名费的黑产骗局，或者至少是对参与者的虚假宣传。
这一事件引起了我的关注，随着人工智能技术的飞速发展，AI 生成内容已经对网络产业实现了全面覆盖。
首先，一键生成大尺度图片已成为现实，这让靠卖尺度图片赚钱的行业受到冲击。人工智能聊天做陪聊也不再是新鲜事，像 Replika 这样的 AI 恋爱应用已经做得非常逼真，甚至难以通过语音鉴别真伪。而在视频方面，国外一些网站的换脸分区利用 deepfake 技术，只要训练样本充足、时间足够长，就能达到以假乱真的效果。如此一来， 图片、互动、语音、视频，都被 AI 所涉足，线上产业链就此打通。
看到这里，可能有人会认为 AI 的发展会带来巨大隐患，导致社会伦理滑坡、骗局丛生。
但我的观点恰恰相反。从长远来看，AI 生成内容反而可能成为消灭黑产灰产的重要力量，这其中的关键在于刘慈欣在《三体》中提出的猜疑链和技术爆炸两个概念。
对于诈骗产业来说，一个重要的要素就是 “钩子”，要足够漂亮和真实才能吸引人们上钩。
然而，AI 的出现让所有的 “钩子” 都陷入了猜疑链。
例如，在土耳其地震期间，有人用 AI 合成儿童受灾假照片来骗打赏，事件曝光后，即使是真实的受灾照片也难以获得信任，人们会怀疑其真实性，而正规的捐献渠道则因有其他背书而不受影响。
这表明假钩子的出现提高了人们的辨识要求，组织方需要自证身份，而黑产显然无法做到这一点。
同时，AI 绘图目前存在的手部畸形等技术问题，虽然在一定程度上可以被识别，但技术爆炸的存在使得这些漏洞可能在不经意间被弥补。
就像基于 stable diffusion 模型的 AI 网站，已经在很大程度上解决了手的问题。
因此，仅靠几张图、几段视频和对话来骗人的诈骗产业将难以立足，曾经电线杆和网上常见的重金求子广告，如今相信的人已寥寥无几，就是一个很好的例证。
02线上杀猪盘也面临着被 AI 改变的命运。传统杀猪盘需要投入大量时间和精力与受害者聊天，随着反诈知识的普及，其成本越来越高。而 AI 生成内容则可以低成本、大范围地撒网。
比如，B 站上有位大佬利用 AI 与骗子斗智斗勇，通过设定特定人设，用 AI 生成的内容与骗子聊天，不仅成功从骗子手中赚到了钱，还将其捐赠给公益基金。
虽然目前 AI 恋爱应用如 Replika 存在一些问题，如没有主见和记不住说过的话，但这在某种程度上反而显得更加真实。
而且，当 AI 在杀猪行业的应用积累到一定程度，由于猜疑链的存在，人们会对线上的恋爱关系等产生更多怀疑，即使是全真人操作的杀猪盘也可能不再被信任，从而导致整个线上杀猪盘产业难以维持。
养鱼养备胎的操作流程，对于 AI 生成内容来说更是轻而易举。
只需要插入一些索要礼物、频繁过生日要红包等文本内容，再搭配上朋友圈的自拍和文图不符的文字，就可以模拟出养鱼者的日常。以前养鱼需要人工操作多个账号，现在借助 AI，一切都可以自动化，这将使舔狗文化面临崩盘。
未来，当 AI 能够批量生成舔狗文学和卑微文学内容时，养鱼者可能会发现自己养的全是 AI 狗，再也无法像以前那样利用舔狗获利。
当然，我们必须承认，新技术的出现既可以放大人的生产力，也可能放大人心中的恶。
尽管许多 AI 技术和平台设置了道德防护栏，但仍有人会利用其做坏事。然而，我们不能因此就否定新技术的发展。
正如刘慈欣在《朝闻道》中所写，人类对宇宙奥秘的探索始于一只猿猴对星空的仰望，我们不能因为可能出现的问题就停止前进的步伐。在新技术的发展过程中，确实会出现各种问题，但我们应该用发展的眼光去解决它们，相信人类能够把握好新技术的发展方向，让其更好地服务于社会。
文本来源@曹小灵比比叨 的视频内容
