最近，有网友询问“张文宏是不是带货了?”。根据网友提供的一段视频显示，张文宏在卖一种蛋白棒家里的老人信以为真已经下单，还转发了很多群。

据报道，有媒体记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。但稍微懂点AI的小伙伴们一眼就能分辨，这是AI合成的视频!但是老年人哪里懂甄别啊?记者发现，这段视频已在该账号内不可见。但商品橱窗内还保留着蛋白棒售卖的页面，并显示已售出1266件，跟买有315人。

看看新闻Knews记者今天联系到张文宏医生，他向记者表示：“这样的卖货账号不止一个，且一直不断在变，自己多次向平台投诉但屡禁不绝。”

张文宏回应：这些假的AI合成信息就像蝗灾一样

张文宏称，“事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI(人工智能)不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”

除了向平台方投诉，张文宏医生称自己也曾考虑过向警方报案，但对方的账号一直在不断变化看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门能加强监管。他告诉看看新闻Knews：“报警总要有个对象对吧，现在报警报谁呢?他一天换一个账号，而且全是虚拟的，我向谁报警?!所以我认为，他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。”

今天，上海市消保委也对该事件严厉发声，表示未经当事人授权的AI合成带货行为，已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。上海市消保委副秘书长唐健盛称：“实际上这根本就不是张文宏老师在带货，这完全是用AI(人工智能)做出来的，这类事情非常恶劣。首先这种做法其实已经构成了对消费者的欺诈，消费者如果说上当的，那么完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及到消费者权益，它其实还涉及到整个社会的良知跟道德。”

合成名人视频的边界在哪?有哪些法律问题?

近年来，通过AI合成技术假冒名人的事例时有发生。

今年初，上海市静安区人民法院开庭审理了假冒演员“靳东”诈骗案。法院介绍，张阿姨是演员靳东忠实的“阿姨粉”。2021年10月，张阿姨被拉入了名为“靳东明星”的粉丝群。从2022年2月开始，张阿姨就在群里不断给一个叫“靳东”的用户充值打赏。不久后，“靳东”就以恋爱的名义加上了张阿姨的微信，从每天三顿饭的问候，到深夜跟“姐姐”聊家常，张阿姨逐渐在“偶像”的一声声嘘寒问暖中沦陷，先后向其转账近20万元，直至儿子发现后报警，张阿姨仍不愿相信自己的“偶像”会是儿子口中的“诈骗犯”。

去年11月，演员黄晓明也在节目中坦言，看到了一段自己和刘亦菲为某品牌代言的视频，自己在活动现场极力推荐该品牌。而他本人对此竟然毫不知情，印象中从未担任过该品牌代言人，一时间感到恍惚，难辨真假。原来该视频是AI换脸生成的，包括人声也可以合成。

合成名人视频的边界在哪?存在哪些法律风险?视频制作者、AI技术提供者、视频播放平台各有哪些责任?

12月12日，澎湃新闻记者采访了上海大邦律师事务所高级合伙人、律师游云庭，段和段律师事务所知识产权部合伙人、律师刘春泉，请他们谈一谈AI视频制作背后的法律问题。

上海大邦律师事务所高级合伙人、律师游云庭表示，在上述假冒张文宏带货的视频中，视频制作者和发布者未经本人允许使用张文宏的形象、声音“带货”，涉嫌侵犯张文宏相关的人身权利，具体包括姓名权、肖像权、声音权;此外，还涉嫌侵犯张文宏视频拍摄者的录像制作者权。对此，当事人可以提起民事诉讼进行维权;同时，视频平台也可以对发布者进行对应处罚。

游云庭介绍，上述行为主要对应反不正当竞争法中的虚假宣传，是一种民事侵权行为。如果商家确实卖的是蛋白棒，那么对消费者来说不构成诈骗。

同时，为商家提供深度合成服务的技术提供方也存在问题。为商家提供深度合成服务的技术提供方应当进行算法备案，对于生成的深度合成视频应当标识。“合成名人视频是全球人工智能服务商都应该注意风险的敏感点，也应该有相应的合规措施，服务商应当进行审查。”游云庭说。

段和段律师事务所知识产权部合伙人、律师刘春泉表示，从反网络诈骗角度来说，对这类AI假冒他人的治理防范，需要多重手段。首先，对于网络平台而言，网络平台要履行网络安全法等法定义务，对发布的内容要审核，要通过平台规则落实网信部门规章规定AI生成内容必须标注提示的规定。《互联网信息服务深度合成管理规定》第十七条规定：深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

刘春泉表示，另一方面，对于公众而言，对于非现场的语音电话、视频通话要注意甄别。需牢记诈骗都是借助前沿科技和热点诱骗人上当，不能轻信，凡是涉及钱款支出的老人一定要先联系子女，发现被骗要立即报警。