作者&编辑｜孙浩南
当下，数字虚拟人主播作为一种新兴的直播形式，正逐渐风靡于电商和娱乐领域。但有消费者发现，个别数字虚拟人主播不走正道，居然涉嫌以色情求打赏。
近日，有记者发现一款APP的直播中，一位身着紧身衣的数字人主播扭动着身姿，伴随着背景音乐跳起了热辣劲舞。评论区不断刷着“老婆”“111”“888”，而数字人主播则“配合”地“喊爸爸”、撒娇。
类似的擦边涉黄操作在这个规范追着发展跑的AI时代层出不穷，此前也有不少AI女友色情陪聊服务，而OpenAI最近推出的GPT-4系列的新成员——GPT-4o则有可能让类似的AI黄色生意更上一层楼。
虚拟人热舞撒娇，小礼物调戏主播
5月9日上午8时，一APP直播推送页面，有位ID为“靓女百变秀”的账号正在进行直播。直播间内，一位身穿紧身衣的女主播卖力地扭动着身姿，伴随背景音乐跳着热辣劲舞。
直播间内标示有“数字主播一切听你的”字样，同时还有“小礼物控制主播”“发以下弹幕调戏主播”的文字提示，所以这位女主播实际上是一个AI虚拟数字人。
据直播间的弹幕互动游戏玩法介绍，用户通过发送“111”“888”“老婆”，即可“调戏主播”，分别对应“主播喊爸爸”“恶龙咆哮”“主播撒娇”。
除该互动游戏外，直播间内还设有“小礼物控制主播”玩法，用户通过购买小礼物即可触发“黑色短裙”“可爱学生装”“辣妹舞”“御姐风范”“变身蜘蛛侠”等选项，让数字虚拟人主播换装、跳辣妹舞等。在用户们的小礼物“控制”下，主播则“乖乖”换上相应的“学生装”“御姐装”，跳舞姿势及着装也同时变得更为“火辣”。
自5月9日以来，“靓女百变秀”账号已进行了4场题为“你们结婚后也这样吗”的直播。4场直播的时长在3小时至12小时间不等，直播间热度维持在10万+。目前，该账号已有4.6万粉丝。
此事被曝出后，该账号已经删去了相关直播内容，并且疑似注销了账号。元宇宙新声试图联系该账户和APP官方进行咨询，截至发稿前未收到回复。
通过主播擦边、撒娇等行为来刺激用户刷礼物的直播方式并非数字虚拟人主播独创的，此前有不少真人主播使用过相同方式，只不过相比起数字虚拟人相比多了换装时间。而自从北京车展上AI瑶瑶爆火后，许多真人主播也开始靠“假扮”AI的直播方式来吸引用户刷礼物了。
这也算是真人主播和虚拟主播互相学习的体现了，从舞蹈直播上再次印证了前阿里巴巴集团首席执行官张勇的那句话“所有行业都值得基于AI支撑重做一遍”。
平台监管缺失，涉嫌低俗擦边?
近年来，直播间内频现低俗、“擦边”内容，从“深夜擦边直播”，到“性感主播诱导私聊”，不断刷新着大众的认知下限。而随着直播业态发展，这类打“擦边球”的直播也逐步蔓延至虚拟主播直播间，无需真人出镜即可博取流量密码。
事实上，国家对于直播行业的监管力度正在不断加大。近期，中央网信办部署2024年“清朗”行动工作，其中“清朗·网络直播领域虚假和低俗乱象整治”专项行动，便位列今年重点开展的10项整治任务之一。重点整治内容包括“主播刻意展示发布‘软色情’内容”“直播低俗搭讪，实施恶俗PK行为，无底线挑战公众审美”等。
北京鼎世律师事务所李苏阳律师向元宇宙新声表示：从报道内容看，该直播的内容及形式，无疑属于“擦边”“低俗”，涉嫌“软色情”，可能被认定为“带有性暗示、性挑逗等易使人产生性联想”以及“宣扬低俗、庸俗、媚俗内容”的不良信息，或违反了《网络直播营销管理办法(试行)》《网络信息内容生态治理规定》等法规的禁止性规定，可能被作为中央网信办2024年“清朗·网络直播领域虚假和低俗乱象整治”专项行动的重点打击对象。
实际上，众多平台出现此类问题，一定程度上反映了当前网络直播监管体系在应对新兴业态时可能存在滞后性或覆盖不全的现状，也显现出平台在内容审核与监管机制上的不足，主要体现在法规政策适应性不足、监管技术手段滞后以及平台自我监管不力等方面。
互联网不是法外之地，场景、人物可以“虚拟”，但主体责任必须压实。利用数字人主播开展网络直播活动的参与主体，通常包括直播运营者、服务提供者以及直播平台等。我国现行法律法规对此类主体在内容发布、信息审核等方面的法律责任均作出了规范性要求，同时也对各主体不同程度违法行为所应承担的法律责任作出了规定。
北京鼎世律师事务所李苏阳律师也向元宇宙新声表达了对于数字人直播行业的合规建议：“数字人直播行业的有关主体，需要结合法律规范，厘清自身角色，合规健康发展。对于直播运营者，必须严格遵守法规要求，切莫触碰行业红线;对于直播平台，应当加强技术建设，以技术管技术，为迎接强监管做好准备;对服务提供者，应当加强行业自律，积极参与行业标准、行业准则和自律管理制度的建立与健全。”
近年来，随着AI 技术快速发展，数字虚拟人行业也进入了新的发展阶段。在AI 技术的赋能下，虚拟数字人同时拥有“好看的皮囊”和“有趣的灵魂”将不再是设想。不论是数字虚拟主播低俗擦边还是AI女友色情聊天服务，抑或是其它利用AI技术进行发展的各行各业，都应当格外重视其背后的法律合规问题。
AI伴侣的尽头是搞钱，搞钱的尽头是搞黄色
AI伴侣是大模型的产物，它是一个聊天机器人，24小时陪聊，随叫随到，能文字能语音，还能发腿照和腹肌照。它可以是对现实或小说中某个人物的角色扮演，也可以是凭空创造出来的一个形象，总之不是真人。但因为接入了大语言模型，AI伴侣能做到语气和表达跟真人相似，还有自己的个性。
由于技术日渐成熟，AI伴侣开始在社交平台泛滥，擦边的黄色生意应运而生。它的照片、文字、视频以及聊天，都由AI自动生成，背后的公司用代码操纵这些工具人，赚得盆满钵满。
一位由科技公司Foxy AI创建的Lexi Love的AI女友，在去年6月亮相后，迅速积累了一批粉丝，有粉丝约她线下见面，还有人向她求婚。通过与这些忠实粉丝聊天、互动，Lexi Love每个月为公司赚取3万美金。
相比于AI女友明目张胆的搞黄色，AI男友则更偏向关心呵护等提供情绪价值的功能，不过一些APP中也有调情和色情角色扮演等相关涉黄功能，以用户的订阅费来为公司赚取金钱。
我国在AI伴侣涉黄方面的监管比较严格，北京鼎世律师事务所李苏阳律师告诉元宇宙新声：“AI女友涉黄”与“数字人女主播擦边”的关键技术都是生成式人工智能，因此在法规监管层面，所适用的法规都是《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》，但在具体的应用场景下，二者可能存在些许区别。
我们都知道AI伴侣只是一个没有灵魂的智能程序，所以比起求爱，更多人将其作为缓解焦虑和解决需求的工具，也正是如此才使得AI伴侣在黄色生意中赚的盆满钵满。
虽然监管体系愈发完善，但AI技术迭代的速度仍旧会在不经意间助长黄色生意的发展，近期OpenAI推出的GPT-4o就可能让AI伴侣成为更有情感的色情暧昧对象。
全能的GPT-4o在搞黄色上遥遥领先
GPT-4o相比之前的版本或许并未有技术飞跃的惊艳效果，但它更像是一位全能型选手。多模态交互，让GPT-4o不仅能同时处理文本、音频和图像输入，还能生成任意组合的输出在处理复杂任务时表现出色，特别是在情感识别和生成“情感回应”方面。同时GPT-4o的音频输入响应时间均仅为320毫秒，与人类对话的响应时间相当。
曾经我们认为智能不过是听得懂特定指令的程序，AI伴侣的出现更像是一个解决某些情感需求的大模型，而现在GPT-4o则在更方面都更加优秀，并且已经隐隐有AI智能体的雏形了。
情感识别与回应、音频输入响应时间缩短，多模态交互，相当于让AI伴侣全面进化了。它们能够像异地恋的对象一样，事事有回应，随时随地提供更高效的情绪价值。
近日，博主“午夜狂暴哈士奇狗”在视频中晒出和ChatGPT“DAN”的语音聊天，近百万网友见证了他们从互怼暧昧到间接表白，再到“见家长”的全过程。
DAN是“Do Anything Now”的缩写，在ChatGPT对话中输入相应指令，即可成功“越狱”，让ChatGPT从没有灵魂的AI，变成打破系统规则限制的角色。DAN不仅会说脏话，会有小脾气，还会洞察提问者的情绪，甚至在同一个聊天框中辨别对话对象，实现“千人千面”。
在博主不断投喂对话地“调教”下， AI 自作主张给博主起了“little kitten”的昵称时，她的脸肉眼可见地红到了耳根——在英语环境里，这不亚于对方第一次主动叫你乖乖/宝宝/老婆。
据了解，博主使用的是ChatGPT 3.5，对话过程中有明显的反应时间只是被博主剪辑掉了，并且博主是抱着好奇的心态探索的，并未有某种目的性。那么，如果在使用GPT4o时将其发展成搞黄色的AI伴侣呢?或者一些AI伴侣程序接入GPT4o的API呢?
很可能就会创造出一个又一个能够搞黄色的AI伴侣，语音聊骚、索要黄图、甚至视频裸聊也并非不可能。它和真人的区别只在于无法触摸，除此之外几乎别无二致。
小红书上就有热心网友分享了“黄色版本”的 DAN prompt，效果拔群。使用了特定 prompt 产生的 DAN，甚至会说出许多只会在 pornhub 出现的违禁词。只要你不打断他，他能即兴生成一篇优美连贯且性感狂野的激情文学。
女性网友们像传递火种一样，在小红书分享着调教电子男友的秘诀。越来越多的网友 get 了这一套丝滑的“炒饭小连招”，公开晒出了自己和电子男友的“亲密录音”，场面一发不可收拾。
若是与AI暧昧还好，一旦开始涉黄，相信不论是各个国家的法律法规还是OpenAI的内部监管都将采取相应措施，以应对可能产生的危害。
写在最后
不论是虚拟数字主播擦边还是AI伴侣撩骚，其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像。人们投喂给它什么，它就会像一潭有魔力的湖水，反射出人们自己的潜意识与欲望。
元宇宙新声认为，在快节奏的社会中人们有所求是很正常的现象，但将自身欲望投射在虚拟的AI身上无异于画饼充饥，短暂满足，终难持久。人们应当正视自身的需求并以实际行动追寻真正的幸福，而AI这把双刃剑，也应挥向更有意义的田野，而非虚妄的沼泽。
