电商平台不法分子兜售女明星AI换脸视频
电商平台不法分子兜售女明星AI换脸视频
原标题：不雅视频将女明星换脸成主角售卖：涉多重违法，电商称零容忍
AI（人工智能）换脸软件走向大众的风险之一，是这种软件可能会被不法分子滥用。
9月3日晚间，澎湃新闻记者在二手交易品台闲鱼App上发现，有多位卖家通过AI换脸技术制作出当红女明星的不雅视频，进行售卖。
其中一位卖家告诉澎湃新闻记者，他有视频100部，里面包括30多位明星。还有一位类似卖家报价称，75元套餐中有40多位女明星上百部的AI换脸视频。
北京志霖律师事务所副主任、中国政法大学知识产权研究中心特约研究员赵占领律师对澎湃新闻表示，这种售卖明星换脸不雅视频的行为，毫无疑问是构成肖像侵权的，也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪，它属于传播淫秽物品牟利罪，情节严重者可判无期徒刑。
澎湃新闻咨询闲鱼相关人员获得的回应是，该平台对违反公序良俗的商品一贯以来采取零容忍态度，从严从重处罚违规行为。
电商平台不法分子兜售女明星AI换脸视频
AI换脸技术两年前在国外出现时，就曾经被“用来换脸色情片女主角”。
2017年12月，在海外出现AI换脸技术时，这项名为“deepfakes”的技术，就曾被少数懂技术的人用来换脸色情片女主角。后来，随着一款桌面应用程序FakeApp的出现，普通网民也能简单制作换脸假视频，互联网上的假脸视频开始广泛流传。这在海外早已引发争议。
目前，国内市场上已经有“ZAO”和颜技App攻克了AI换脸技术，将换脸从专业化变成全民化，实现一键换脸。这又让一些不法分子看到了赚钱的机会。
9月3日晚间，澎湃新闻记者在二手交易品台闲鱼App上发现，有多位卖家通过AI换脸技术制作出当红女明星的不雅视频，进行售卖。
其中一位卖家提议在qq或者微信进行交易，并告诉澎湃新闻记者，明星换脸合成情境图的价格如下：一个明星30元，两个明星40元，三个明星50元，每个明星图片数量不同，大多数都是300张左右。此外，他还有视频100部，里面包括30多位明星。“都是当红的，有的明星多，有的少。”他说。
澎湃新闻记者询问卖家能否试看，对方表示不能，并发来了部分资料库截图，文件名称极其露骨。
另外一位类似卖家给出的报价是：75元套餐中有40多位女明星上百部的AI换脸视频，99元套餐则可“永久外网观看任意资源”。
对此，澎湃新闻咨询了闲鱼相关人员。对方告诉澎湃新闻，对违反公序良俗的商品一贯以来采取零容忍态度，从严从重处罚违规行为。同时，在平台处理的基础上，闲鱼还将向执法机关举报涉嫌发布违规信息的账号，协助开展线下溯源打击，追踪背后的黑灰产团伙。
今年3月20日，闲鱼在浙江省网信办指导下，在互联网行业内率先发起为期3个月专项治理行动，用最严厉手段打击各类涉嫌违反公序良俗的违规信息。
闲鱼相关人员表示，闲鱼呼吁公众发现违规现象时积极向平台举报，共同净化网络社会环境。
利用AI换脸技术传播淫秽物品牟利罪严重者可判无期徒刑
赵占领律师对澎湃新闻表示，以上这种售卖明星换脸不雅视频的行为，涉及两方面的法律问题，第一个是肖相侵权。按照法律规定，以营利为目的未经授权使用他人肖像，那这属于是侵犯他人肖像权。所以，将色情视频换成明星的脸然后去销售，毫无疑问是构成肖像侵权的。
“第二点，这种做法也侵犯了明星的名誉权，因为他这种做法会导致一些人可能误认为这是明星本人所出演的这种色情电影。所以导致它的社会评价降低，因此这种行为也涉嫌构成名誉侵权。”赵占领说。
不仅如此，赵占领表示，这种行为既涉及到上述两种民事侵权，同时还涉嫌构成刑事犯罪，它属于传播淫秽物品牟利罪，情节严重者可判无期徒刑。“所以，一旦认定构成传播淫秽物品牟利罪，这样的一个刑事犯罪，那么他的这个犯罪嫌疑人的责任就重了。根据《刑法》第三百六十三条第一款之规定，犯本罪的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。”
赵占领表示，“至于具体判刑情况，是跟它具体的行为，包括传播范围、传播数量、金额等等有关系的。”
被侵权明星若协商不成可起诉
北京法学会电子商务法治研究会会长邱宝昌律师向澎湃新闻指出，对于AI换脸技术下被侵犯肖像权和名誉权的明星，可采取相应法律措施进行维权。
“第一，你可以要求停止侵权。第二，要求赔偿损失。精神损失、造成的经济损失都可以要求索赔。首先可要求赔偿，如果协商协商不成的话，可以起诉。”
在中国裁判文书网中搜索“肖像权“可见，多名当红明星都曾涉及肖像权维权。其中，有84篇文书与范冰冰的肖像权维权相关，有29篇文书与杨颖的肖像权维权相关，有5篇文书与杨幂的肖像权相关。不过，其中大部分是利用明星肖像做广告以谋取盈利的案件，目前暂未发现使用AI换脸技术侵犯肖像权的案件。
澎湃新闻就明星肖像权维权咨询了几位明星工作室的相关人员，对方均表示，目前暂未遇到AI换脸侵犯肖像权的案例。
普通人面部信息泄露引发监管部门关注
那么，普通人的照片信息被收集后，是否存在被做成色情视频的可能性呢？此前有报道称，在一些电商平台上，还有卖家表示，可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片，卖家便可以将照片中的人脸“转”到特定视频中特定人物上去。
虽然上述几位闲鱼上的卖家目前暂未提供此类服务，但这并不意味着将照片中的人脸“转”到特定视频中特定人物上去的服务不存在。
对于近期火爆的“ZAO”，赵占领律师认为，其确实存在用户面部信息泄露的风险。
“‘ZAO’这个软件，你要上传头像，然后经过认证才能把你的换脸的视频分享给他人。所以这个认证的过程就是要对用户的人脸进行识别。至少在这个过程中，他肯定会收集脸部信息数据的，但他会不会保存就不得而知了。因为现在是它自己单方的说法，我们无从判断。但不排除它存在存储用户脸部特征数据的可能性。”
赵占领还指出：“它如果存储这些数据的话那确实有风险。有两方面的风险，第一个就是它自己保管不当导致这些数据泄露出去，其他人拿着这些数据从事违法犯罪活动，另外一个就是它自身拿这些数据进行非法的使用。”
9月4日，“ZAO”App由于用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，已被工信部约谈。
虽然在9月3日，“ZAO”曾公开致歉，称不会存个人面部生物识别特征信息，且无支付风险。但是，不少网友还是聚集在“ZAO“的微博下，要求注销账号并终止授权肖像。
值得一提的是，9月4日上午，“ZAO”的自动回复是一张写有指导用户删除面孔、注销账号的说明图。
