AI“换脸”,风险几何?
邱宝昌
肖斌
张璇
门诊问题:
未经本人同意“换脸”,侵害他人哪些权利?如何有效防止个人权益遭受侵害?
门诊专家:
中国消费者协会专家委员会成员邱宝昌
北京市中闻律师事务所律师肖斌
山东警察学院侦查系网络犯罪侦查教研室副主任张璇
专家观点:
◇如果以营利为目的,未经本人同意擅自使用其肖像制作换脸视频,侵犯了他人的肖像权和隐私权;恶意丑化或将他人肖像换脸到某些不雅视频中,还可能涉嫌侵犯他人名誉权;对影视剧中演员头像进行更换等行为,侵犯了著作权人享有的保护作品完整权的权利,还涉嫌侵犯著作权。
◇普通人应从源头进行自我控制,尽量减少生活照的曝光,以免给他人可乘之机。被侵权人如果发现网上有人制作发布侵权视频,又难以联系上发布者,要尽可能固定证据并报警,由公安机关侦查视频的来源及合法性。
近日,一款宣称“仅需一张照片,出演天下好戏”的AI(ArtificialIntelligence即人工智能,英文缩写为AI)换脸软件刷屏朋友圈,引来“满城风雨”。其实,早在今年初,就有AI换脸视频出现,杨幂、唐嫣等很多明星都曾“中招”。
大众讨论的焦点在于:未经本人同意“换脸”,是否构成侵权?如果不以营利为目的,是不是可以免责?随着AI换脸门槛的降低,普通人也会成为视频主角,如何有效防止个人权益遭受侵害?
换脸视频为何引起大众争议
前不久,热播剧《陈情令》收官后,有网友使用AI“换脸术”将主演王一博饰演的蓝忘机换成了罗云熙。有人认为换脸之后的蓝忘机看起来更加顺眼,也有人表示罗云熙换脸是强行蹭热度,褒贬不一的评价引发了双方粉丝大战。
这不是AI“换脸”视频第一次引发争议。今年初,一位名为“换脸哥”的网友利用AI将《射雕英雄传》中朱茵(饰演黄蓉)的脸换成了杨幂的脸,视频中,杨幂的五官与朱茵的几乎全部融合,难以识别出破绽。该视频由“换脸哥”用人工智能技术独自完成,与其相关微博话题浏览量达到一个亿。网友们在质疑该视频创作是否侵权的同时,更担忧的是,AI换脸技术因其技术门槛低而遭到滥用。
网友的担忧并非没有道理。早在2017年,一个名为“deepfakes”的外国网友就使用AI技术将《神奇女侠》的扮演者盖尔·加朵的脸,换到了色情影片女主角身上。这一技术被公开后,国外网友还开发出了换脸软件,一些政客也被迫“换脸”到各类视频中,形象也被恶搞丑化。
在中国消费者协会专家委员会成员邱宝昌看来,AI换脸技术本身并无任何不当,但由此引发的其他衍生现象却需要相关部门关注。他表示,相比技术,更应对使用它的行为作出规制。
私自换脸涉及多方侵权
技术争议并未让视频创作者停下脚步,网上持续流传出徐锦江“换脸”《海王》,张国荣“换脸”直播主播等视频。受访专家一致认为,如果随意为他人“换脸”,可能会涉及多方侵权。
“如果有人以营利为目的,未经本人同意擅自使用其肖像进行换脸视频制作,不仅侵犯了他人的肖像权,还涉嫌侵犯他人的隐私权。”邱宝昌对记者说。换脸视频使用他人肖像后,产生的舆论效果并不可测,很可能给当事人带来负面影响。
而从最终制作的换脸视频内容角度考虑,北京市中闻律师事务所律师肖斌认为,如果换脸时恶意丑化他人肖像或将他人的肖像换脸到某些不雅视频中,还可能涉嫌侵犯他人的名誉权。
记者搜索视频网站b站(bilibili)发现,很多换脸视频的浏览量可达几十万,而一则“换脸”蔡徐坤打篮球的视频,观看量就达到259.1万。很多网友认为,在互联网语境里,视频发布很可能会引发粉丝倍增及流量变现,很难完全解释为无营利行为。
对于大众狂欢式换脸视频的制作与发布行为,肖斌强调说,即使制作传播换脸视频仅为娱乐,并无牟利动机及获益,仍可能对他人的肖像权与名誉权造成侵害。
“此外,对影视剧中演员头像进行更换等篡改原影视剧作品的行为,侵犯了著作权人享有的保护作品完整性的权利,该行为还涉嫌侵犯著作权。”肖斌说。
使用门槛降低,普通人也会被换脸
AI“换脸”视频的大量出现,引发了大众对于网络安全的担忧:明星可以被换脸,是否意味着普通人的脸也能换?
山东警察学院侦查系网络犯罪侦查教研室副主任张璇表示有这种可能性。她表示,普通人直接应用deepfakes等算法来换脸存在一定的使用门槛,但如果使用某些社交平台中成熟的技术和软件,换脸将变得简单。
记者通过搜索发现,贴吧、淘宝、闲鱼等平台中,均存在AI换脸软件的售卖信息。在一家专门售卖AI换脸软件的网上店铺中,商家提示进店咨询可免费加微信领取换脸软件一套,有购买者留言评价称软件容易操作,出片快,效果自然。为规避风险,有部分卖家在详情页贴出了免责声明:“软件只涉及AI技术的研究,禁止制作任何色情、政治及违法视频文件,如触犯法律,后果自负。”
在一家专门售卖AI换脸软件的店铺中,加店主微信可免费领取换脸软件,店铺中最贵的软件仅需38元,并且卖家会提供教程和素材供使用者学习。
无独有偶,近日一款名为“ZAO”的AI换脸App上线,截至9月6日,该App已跃至iOS应用商店总榜第二名,娱乐App下载排行榜第一名,其宣称仅需一张正脸照,就可“换脸”成为任何视频的主角。记者体验时发现,上传照片后合成视频的过程不到一分钟,约90%的场景看不出任何违和感,脸部装饰如眼镜等转换得也很自然。
对此款软件的上线推广,张璇表示担忧,“这款软件的用户协议规定只要使用此软件,就‘贡献’出了肖像权,无论提交的是自己的还是别人的脸。”
“普通人应从源头进行自我控制,尽量减少生活照的曝光,以免给他人可乘之机。”张璇强调,随着技术的发展,大众应更加注重个人信息和隐私的保护。
邱宝昌认为,不应对平台与卖家太过苛责,软件售卖者的出现迎合了市场需求,商家和消费者可以在不侵犯他人权益的范围内合理使用。“当然,社交平台及商家在应用换脸技术时也要做好风险控制。”
未经他人同意制作发布换脸视频将违法
随着科技的发展,人工智能与人类的联系越来越密切。目前各大网络金融平台均有人脸识别系统,该技术应用到解锁、打卡、购物支付等生活场景中,如果有人恶意使用AI换脸技术,个人的隐私和财产都将会受到不同程度的侵害。记者了解到,目前还没有专门规制AI换脸技术的法律法规。
“AI技术在发展过程中出现的一些问题,不一定非要立法去解决,如果后来更偏向恶意使用,可先制定规章制度对其发展进行约束。”邱宝昌强调。
其实,早在全国人大宪法和法律委员会有关负责人作民法典人格权编草案修改情况汇报时,就有部门提出利用信息技术手段“深度伪造”(deepfakes)他人肖像、声音,不仅侵害自然人的人格权益,还会造成恶劣的社会影响,建议法律对深度伪造技术带来的“换脸”问题予以回应。
8月22日,十三届全国人大常委会第十三次会议二次审议民法典人格权编草案。草案第799条规定,任何组织或者个人不得以利用信息技术手段伪造的方式,侵害他人的肖像权。任何组织或者个人不得以丑化、污损,或者利用信息手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。
也就是说,当民法典正式通过后,除了法律另有规定的情况,无论是否以营利为目的,未经他人同意制作发布换脸视频都将违法。
工信部在9月4日表示,已就“ZAO”App网络安全问题问询约谈北京陌陌科技有限公司相关负责人。针对该软件存在的违规情形,工信部要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,强化网络数据和用户个人信息安全保护。
同日,ZAO运营团队作出了将加强管理、确保个人信息与数据安全的回应。记者发现,在9月3日,ZAO更新了一份新的隐私政策,一些侵害用户权益的格式条款被重新替换。
事件的发展让一部分在软件上体验过“换脸”玩法的用户产生了新的担忧,如果在网上发现了自己被“换脸”的视频怎么办?“被侵权人如果发现网上有人利用AI换脸技术制作发布侵权视频,又难以联系上发布者,要尽可能固定证据并报警,由公安机关侦查视频的来源及合法性。”邱宝昌建议。
“目前相关部门已有识别AI换脸假视频的工具,也可以为追责提供依据。”张璇透露说。
针对目前网上流出的大量AI换脸视频,有媒体提示广大网友,任何人如果发现有通过AI换脸技术制作虚假视频可能已经侵权或构成犯罪的,切记不能随意转发。因为根据相关司法解释规定,雇佣、组织、教唆或者帮助他人发布、转发网络信息侵害他人人身权益,被侵权人请求行为人承担连带责任的,法院应予以支持。
习近平会见2019年度驻外使节工作会议与会使
佘春明 张兆宏为金狮奖获得者颁奖