12月15日，“微信珊瑚安全”发布公告称，近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度。
近年来，通过AI合成技术假冒名人的事例时有发生。合成名人视频的边界在哪？此类视频有哪些法律风险？平台该如何监管？面对AI骗术该如何应对？
AI仿冒名人人脸、声音 张文宏并非第一个“躺枪者”
“张文宏”深夜带货？本人回应
最近，有网友向媒体发来一段视频询问“张文宏是不是带货了？”在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。
据媒体报道，在名为“般画234”的账号视频中，“张文宏”反复介绍着一种产品，口型是他的，声音听起来也很像张文宏本人，商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前，这段伪造的视频在账号内已不可见。
国家传染病医学中心主任张文宏表示，这样的卖货账号不止一个，且一直在变，他已多次向平台投诉。“这件事情已经有几个星期了，一开始我进行了投诉。特别是有些对AI不是很熟悉的、年纪比较大的人，他们很容易就会相信。这种行为侵占了消费者的利益，所以我觉得应该是有相应的部门来处理这方面的问题。”
12月12日，上海市消保委也对该事件严厉发声，表示未经当事人授权的AI合成带货行为，已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。
上海市消保委副秘书长唐健盛表示，首先这种做法其实已经构成了对消费者的欺诈，已经上当的消费者可按照消费者权益保护法的规定，要求商家退一赔三，并且金额不足500元按照500元来赔。此外，相关的监管部门应该对这种恶劣的行为采用非常严厉的方法进行处罚，因为这不仅仅是涉及消费者权益，还涉及整个社会的良知跟道德。
假靳东们在短视频里批量制造“爱情”
骗走刘佩玲19万元的假“靳东”已被判刑，但其他假“靳东”又在互联网上吸引了刘佩玲，跟她谈起了恋爱。为了假“靳东”，61岁的刘佩玲和丈夫离婚了，从家里搬出来，独自租住在上海。拿着每月三千多元的退休金，她仍闲不下来，找了一份工作，每天除了去上班，就是对着手机和“靳东”聊天。
2024年1月23日，上海市静安区人民法院对假冒演员“靳东”诈骗案作出一审判决。法院认为，被告人王某燕以非法占有为目的，指使其他7名被告人假冒身份，虚构事实，多次骗取他人财物，8名被告人的行为均已构成诈骗罪。
静安区人民法院刑事审判庭副庭长陶琛怡是本案的法官，他说，近年来，假冒名人或明星进行诈骗的犯罪屡见不鲜，类似假“靳东”围猎中老年女性的案例已经不是首次发生，这些犯罪团伙的手法非常相似，利用名人崇拜心理、社交平台的算法和推送机制，以及老年人的情感空虚，伺机实施犯罪骗取钱财。详情>>>
今年11月，类似的事件再次发生。江西老太欲贷款200万“给靳东拍戏”，银行向派出所报案。“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动地说道。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟过来，表示不会再相信网络上的“靳东”。
还有他们都曾被AI仿冒
被AI技术假冒的，张文宏不是首个“躺枪者”。
今年国庆假期，短视频平台上出现了大量“雷军AI配音”的视频，这些恶搞视频在社交平台上的相关话题浏览量过亿。视频中，“小米CEO雷军”锐评了堵车、调休、游戏等热门话题，言辞犀利，还常爆粗口。事后雷军表示：“希望大家都不要玩了，这个事情不太好。”
今年11月，胖东来创始人于东来被人用AI技术生成声音去卖药，事后胖东来发布声明对此事进行严厉谴责，并表示将坚决采取法律措施追究其法律责任。
2023年11月，黄晓明在某节目中坦言，看到了一段自己和刘亦菲为某品牌代言的视频，自己在活动现场极力推荐该品牌。而他本人对此竟然毫不知情，印象中从未担任过该品牌代言人，一时间感到恍惚，难辨真假。原来该视频是AI换脸生成的，包括人声也可以合成。
AI合成的公众人物人脸、声音真的可以随意拿来为自己所用吗？平台如何监管？
北京市京都律师事务所合伙人徐伟律师认为，未经授权使用AI换脸技术进行经营行为，已侵犯到当事人的肖像权。在这种情况之下，如果经营者有夸大产品功效、虚高产品价格的行为，消费者基于对当事人的信任而购买该产品，该行为还有可能构成诈骗罪。而且，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中明确，对利用“深度合成”等生成式人工智能技术发布违法信息的，依法从重处罚。
对于没有直接使用他人面部形象的情况下是否构成侵害肖像权，广州互联网法院综合审判三庭庭长曹钰指出，由于面部特征具备极强的可识别性，所以在传统观念中，面部形象属于肖像范围并无争议。但在去除面部特征的情况下，一些不具备明显特征的身体形态、肢体动作可识别性较弱，可能不足以使相关公众联想到特定自然人。
但值得注意的是，不同人物形象，可识别性的判定应有不同标准。例如，对于媒体曝光机会较多的公众人物来说，他外在形象为公众所识别的可能性更高。
《中华人民共和国民法典》第1023条规定，对自然人声音的保护，参照适用肖像权保护的有关规定。
中国政法大学副教授朱巍表示，我们现在看到的一些编辑的人脸，包括声音在内，实际上按照民法典的规定，都属于当事人权利人自己的人格权利，未经允许的话，任何人是不得侵害的。不仅不能直接用，也不能使用当事人的人脸信息、声音信息进行深度合成，不能把它放到这个深度合成的物料库里或场景库里。同时，通过编辑的肖像和声音，用这种方式展现出的相关内容，属于伪造的信息，按照网络安全法的规定，这个属于违法信息。
朱巍表示，未经权利人同意去随便使用别人的肖像和声音，并且对外发布的话，按照民法典的规定是一种侵权责任，要承担包括精神损害赔偿在内的相关责任。如果把相关的视频，包括声音编辑之后形成了相关的内容，如果这个内容违反了网络安全法的相关规定，当事人可能要承担包括刑事责任在内的法律责任。
朱巍表示，作为信息传播平台来讲，虽然可能并不是深度合成服务的提供者，但是它主要传播了这些深度合成产生的信息，它应该通过包括人工智能、人工审核的方式，发现一些高度怀疑是AI合成的作品，要强制性加以标记。如果发现利用AI合成的声音和视频传播虚假消息，并不是把视频删掉就完了，应当对发布者采取包括信用管理在内的强制措施，包括他的账号的营利权限，以及一些相关的特殊权限，要根据信用的降低随之产生必要的处罚措施。
如何有效防范AI技术的滥用？
2022年，我国颁布的《互联网信息服务深度合成管理规定》就划定了深度合成技术的使用规范，包括不得利用深度合成服务侵犯他人合法权益等法律规定。
2024年9月，国家互联网信息办公室就曾发布关于《人工智能生成合成内容标识办法(征求意见稿)》（下称《征求意见稿》）公开征求意见的通知，还配套发布了国家标准《网络安全技术 人工智能生成合成内容标识方法》。
《征求意见稿》明确，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。而要求添加的标识的具体解释为，“显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。”
曹钰表示，AI技术的发展使图像、视频等更加容易被修改，而且修改幅度更大、更深入、更容易使观看者难以分辨。为此，我们应当充分注意到AI技术对肖像权可能带来的影响，通过强化行政、司法和网络平台的监管、保护，以及全社会共同提高保护意识来更好地保护肖像权在内的各类合法权益。
【更多阅读】
破解AI骗术 注意这几个细节
在AI时代，眼见、耳听都不一定为实，大大增强了迷惑性。运用AI技术，再加上套路和剧本的演绎，这样的诈骗手段，小伙伴们要hold住。留意这些细节↓↓↓
资料来源：新华社、央视新闻、新民晚报、极目新闻、江西公安、深圳罗湖检察、胖东来商贸集团微信公众号、新京报
编辑 常江