随着开源大模型不断壮大、使用成本不断降低、应用场景越来越丰富。
咱们普通用户，也能现学现用，吃上不少新鲜的AI应用。
比如之前机哥就写过的「豆包一句话修图」，用过的都说好。
不过真要说起来，AI技术这玩意儿，就跟菜刀一样。
好人只会用它来砍瓜切菜，守护好自家厨房。
而坏的人，就往往会用来搞诈骗，骗别人的钱。
就这一两个月以来，机哥已经过看到好几例「AI作恶」的事儿。
AI又被拿来做坏事
现在AI绘图技术有多猛，机友们应该能从各类新闻中，或者实际测试中感受得出来。
早在2023年，我就聊到小红书上突然冒出了很多美女网红。
只是和真人不同的是。
这些账号里的美女照片，其实都不是真人，而是背后运营者用AI工具生成。
时间来到2024年9月。
抖音、小红书等平台上，又冒出一新的AI网红账号。
在Flux模型的加持下，这些账号的美女照片，简直是到了以假乱真的程度。
关键是这技术迭代到现在，使用门槛几乎为零。
网上就有开箱即用美女生成工具，把你想要的动作、衣服和人物表情给描述好，按下「立刻生成」就完事儿。
此时的AI绘图，就成了一把锋利的菜刀。
有人用来切菜做饭，有人用来砍人伤人。
根据澎湃新闻报道呢。
最近就有团伙用批量生成的AI美女，在短视频平台起号引流，进行“广撒网式”行骗。
具体的操作并不复杂。
团伙里面分工合作，有人专门用AI来调整参数，生成美女。
有人充当聊天业务员，和被害人聊天“建立恋爱关系”。
有人专门提供虚假证件和病历，一步步把受害人的钱骗过来。
而且有时候，你真的不能怪受害人警惕性不高，又或者是人傻钱多。
从团伙提供的AI美女照片能看出，他们“AI炼丹”的技术已经是很炉火纯青了。
甭管是人物主题，还是背景的街道，愣是看不出啥明显破绽。
（团伙利用AI生成的照片）
（团伙利用AI生成的照片）
机哥盲猜一手啊。
那团伙用的应该还是Flux+Comfyui那一套工作流，能在控制人脸不变的情况下，生成出各种背景和衣服不同的图片。
这套技术主打的就是生成效率高，而且效果够好。
很多网友看到那团伙生成的图，都不由得背后发凉。
要是被骗子盯上的是自己。
那不得被狠狠爆金币啊。
即使是那些精通刷机Root，每天在网上高强度冲浪，对诈骗套路无比熟悉的老哥。
遇上这样的图片，也很难一眼看出是真人还是AI。
反正最后官方通报的结果是——
那个10人团伙，通过AI生成美女、聊天建立关系和骗钱一条龙操作，骗到了近千名男性，涉案金额也来到200多万元。
所以说AI发展得太快，也未必是件好事啊。
除了明面上的搞诈骗，最近机哥还看到一种很离谱的AI玩法：数字人。
顾名思义，就是用AI生成特定的人物画面和配音，说一些针对性很强的话来骗中老年人互动、关注乃至掏钱下单。
机哥刷短视频，就刷到不少类似的数字人账号。
有一说一啊，光看封面我是压根看不出他不是真人。
还得是点进去“欣赏”好几个视频后，才初见端倪。
只见这哥们整个肢体相当僵硬。
而且永远都是皱着个眉头，情绪稳定得可怕。
配音更是重量级。
初听可能觉得没啥违和感，但多听几次就会发现人机味儿太冲了。
一点人类说话该有的抑扬顿挫、情绪变化都没有。
更让人觉得逆天的，是账号的内容调性。
说白了，纯纯是冲着家里有点闲钱，但又对互联网了解不深的中老年人去的。
我给大伙展示点片段就懂了。
这哥们一会儿说要给“姐姐”们跳个舞。
接着让“姐姐”们评价一下跳得怎么样。
视频标签也是演都不演了，标了个#姐弟和#情感。
大姐大妈们，看到一个穿西装的小伙子，搁这激情热舞。
早已失去激情多年的内心，又久违泛起了波澜。
可天上不会掉馅饼。
互联网上，也不会有真正免费给你跳舞的人。
机哥在其他视频中能看到，账号里的数字人总会在视频结尾，引导观众去橱窗消费。
有时候这数字人甚至会开启带货直播。
左下角橱窗带的货也基本是保健品、家具日用品和生活消耗品。
大伙都懂吧。
这类产品特性很明显，价格便宜、退货率低，平时又用得上。
哪怕大姐大妈们本来用不着。
主播也能用花言巧语，哄得她们当场下单。
“姐姐，这是弟弟花了很长时间为你准备的，拍了后要告诉弟弟哦。”
“姐姐，你知道吗，当我浏览你的作品的时候，我仿佛看到了一位天使，真的无法用言语，不知道姐姐可不可以帮弟弟拍一单。”
紧接着直播间的弹幕，就变成了这样。
在我们看来，这不过是一场逆天程度极高的带货。
但大妈们又怎么会知道，在镜头前对她嘘寒问暖、深情表白的人，其实是个AI数字人呢。
更逆天的是。
机哥搜索相关关键词，发现这哥们居然使出了影分身之术。
关键是好几个直播间的人气和热度都不低。
可想而知，有多少大姐大妈，为了讨好这个可爱的弟弟，心甘情愿掏钱下单。
有多少颗真心，又被这一堆由代码和数据组成的数字人，骗得死去活来。
这不会是第一个，也不会是最后一个。
反正机哥在平台上随手一搜，就能看到贼多这种，内容文案完全冲着中老年人去的AI账号。
一口一个姐姐，一口一个家人们。
有针对大姐大妈的，自然也有针对大叔大爷的。
最终目的，也只不过是让姐姐们打开商品橱窗，掏钱下单。
据我全网高强度深挖。
这样的AI数字人账号，可谓是遍布各大平台，流程也大致相同。
文案内容主打情感、养生，自称也是妹妹、弟弟，给中老年人亲切的感觉。
最后丝滑带货变现一条龙。
机友们可能会说，这些账号其实流量也不多啊。
确实。
但因为搞这玩意成本低，背后的运营团队，基本上能用一个AI形象，运营几十上百个账号。
能爆一个视频，就能带来不少收益。
而聊到这儿，机哥心里多少有点复杂。
大概是从一年前开始吧。
市面上关于AI诈骗、AI爆老年人金币的案例，便数不胜数。
有的直播间，用AI换脸技术，把主播的脸换成大明星带货。
也有的人，用靳东的人脸和声音素材，合成出和本人有九成相似的数字人形象，在短视频平台诱导中老年人互动和消费。
这些狗狗祟祟的团队，也能用AI换脸俄罗斯美女，把大爷们的养老金榨得一滴不剩。
这下看懂了。
这些事情的本质，不特么都是“秀才迷倒大妈”的套路复现么？
一个秀才倒下了，千千万万个AI换脸、AI数字人账号原地起号。
只是这次不同的是。
以前忽悠人的，还算个人。
现在忽悠人的，甚至都不是人。
有时候机哥都觉得，平台光是在视频底下标注个小字儿——“内容由AI生成”，都不太管用了。
那些低质量、批量化，诱导消费又明显的AI账号。
留着给它玩下去，又有啥意义呢？
好消息是，抖音前阵子已经表示要出手打击骗老年人的AI账号。
小红书这边，今年同样把AIGC黑灰产，作为重点打击对象。
不管怎么说，希望AI大模型和AIGC，能回归到真正实用、向善的价值吧。
图片来自网络
