人工智能:娱乐业中的深度伪造
韦贾伊·拉拉、阿迪纳·米特拉尼和扎克·哈内德,泛伟律师事务所,美国纽约及圣莫尼卡
自从第一部《终结者》电影上映以来就一直有各种机器人接管世界的故事演绎。现在我们位于变化的起点,技术——具体而言即人工智能——将导致娱乐和媒体行业的自我颠覆。
从传统娱乐到游戏,我们探讨了深度伪造技术的欺骗性日益提高,大众接触这一技术愈加方便,以及掌握这种技术对娱乐和媒体生态系统的影响程度等问题。
何为“深度伪造”,有何意义?
“深度伪造”这一术语指的是一种基于人工智能的媒体合成技术。这样的技术可以将人脸特征叠加在他人身上,同时或仅伪造声音,形成如同真人的体验。演员瓦尔·基尔默的独特嗓音在2015年因喉癌而消失,但Sonantic的深度伪造技术最近让基尔默得以“说话”。(这位演员的儿子再次听到父亲“声音”时不禁落泪)。
深度伪造也用于克服语言障碍,英国足球名将大卫·贝克汉姆参加的消灭疟疾活动中就有这样的例子。活动中,深度伪造让贝克汉姆能够用九种不同语言发表演说。有时,深度伪造纯粹用于娱乐,例如在这个艺术装置作品中,用户可以与萨尔瓦多·达利自拍“超现实”合影。
视频:深度伪造也用于克服语言障碍,英国足球名将大卫·贝克汉姆参加的消灭疟疾活动中就有这样的例子,他通过深度伪造技术用九种不同语言发表演说。
利用深度伪造提升艺人技能
深度伪造的商业应用目前既涉及雇用负责模仿的“深度伪造演员”,也涉及自身形象被用于模仿表演“包装”(即相关内容所描绘的面容或外表)的人员。如果所谓的形象包装属于知名人物,这可能会节省名人原本需要在拍摄现场花费的时间;相关工作可以转由深度伪造演员承担。此外,网红借助这种技术可以为数百或数千人分别定制信息,而无须真正录制每一条信息。
深度伪造技术这种新颖的应用并没有从根本上改变艺人协议的性质或者获取艺人必要授权的做法——但确实引发了谈判双方必须认真考虑的新问题。例如,关于控制对艺人肖像权的使用,谈判的时候总是极其详尽,但艺人授权协议或合同一般不可能考虑到使用肖像权作为形象包装的权利,这种形象包装可用于创造几乎无限量的深度伪造逼真作品。此外,精神权利相关条款将需要谨慎措辞,考虑艺人也许无法控制的深度伪造表演是否可以作为触发合同终止的理由。艺人工会可能也必须更具体地考虑未来在行业谈判中如何对待这项技术。
最后,还有一个有争议的问题,即整体而言这项技术带给艺人的是帮助还是伤害。从积极的一面来看,演员得以在世界各地的广告或电子商务网站上出镜(无须前往演播室、学习新语言或改善口音),工作范围拓宽可以提升能力。例如,Synthesia最近在说唱歌手兼创业人Snoop Dogg出演的两部广告片中采用这种做法。原始广告片非常成功,因此Synthesia的子公司希望使用同样的广告,但要换掉品牌和名称。Synthesia公司并未重新拍摄,而是使用深度伪造技术改变Snoop Dogg的口型动作,配合新广告中的子公司名称。
另一方面,深度造假技术的普及可能会导致非名人演员被取代,就业岗位消失或行业雇用艺人出演的方式发生变化。如果雇用名气相对较低的人扮演名人效率更高且有其他优势,那么这些演员自身出名或“被发现”的机会就会更少。这或许会造就一批永远无法获得名人地位或是利用自己的名气和形象盈利的深度伪造演员。
在数字内容中融入深度伪造的名人形象
有人还在社交媒体平台上利用深度伪造的名人形象,进一步凸显这种底层技术的普遍性(以及准确性)。2021年初,一位比利时数字人工智能艺术家与汤姆·克鲁斯的模仿者合作,在@deeptomcruise这个TikTok账号上制作出非常逼真的“汤姆·克鲁斯”视频。这些视频中的“汤姆·克鲁斯”做出一些古怪举止,从零售店摔倒后讲苏联笑话到从事工业清洁服务等等,吸引了数十万次浏览。此外,去年TikTok上一段致敬其歌曲《西瓜糖》的视频中,深度伪造的哈里·斯泰尔斯索要草莓,瞬间走红。
如果个人或企业想制作深度伪造名人的媒体内容,应与律师一起认真考虑适用法律是否允许这一做法。要研究发布此类内容的一些关键法律依据,例如相关内容是否属于受保护的言论自由(如戏仿),名人的公开权是否已进入公共领域,以及面对版权侵权索赔是否可辩称合理使用。否则,与所有其他案例一样,如此使用艺人形象可能需要征求同意。
研究适用法律
在美国,深度造假面临的法律环境一直在迅速变化。个人或企业应当研究最近一些州专门针对合成媒体和数字伪造媒体出台的法律。
例如,2020年11月,纽约颁布了一项法律,表演者去世后40年内明令禁止在视听内容中使用“这位已故表演者的数字复制形象”,前提是使用复制形象“可能让公众误以为形象经过授权”。这可能意味着某些情况禁止使用深度伪造,例如关于安东尼·布尔丹的纪录片《Roadrunner》。该片导演为了在布尔丹死后完成影片制作,利用深度伪造技术生成三句让主角“声音复活”的台词,引起争议,而这位名厨的遗孀奥塔维亚·布尔丹声称她并未授权这一做法。
在政治领域,2019年9月德克萨斯州颁布一项法律,禁止在选举前30天内传播旨在伤害候选人或影响选民基础的欺骗性“深度伪造视频”。一个月后,加利福尼亚州通过一项类似法律,但明确指出禁止期限为选举前60天内。此外,播放深度伪造视频的平台也需要考虑与欺诈指控有关的合规问题。
利用深度伪造增强电子游戏角色
游戏行业也是深度伪造会颠覆的天然舞台,特别是在数字化身方面。许多游戏的关键前提条件是玩家扮演某个角色,如《星球大战》中的天行者卢克或莱娅公主。但游戏体验若要更加身临其境,就不仅仅是用游戏手柄控制卢克或莱娅,而是还能让数字化身跟踪你的面部动作和口型——深度伪造技术正在实现这种体验。此外,通过深度伪造生成的合成语音,可以让你的声音听起来像卢克或莱娅,这有时会带来意想不到的正面效果。例如,这些所谓的“声音皮肤”允许女同性恋者、男同性恋者、双性恋者与跨性别者等性少数群体(LGBT+人士)改变他们在游戏中的声音,从而使游戏体验更加愉悦——鉴于反诽谤联盟2020年的统计数据显示超过一半的语音聊天用户在游戏中受到骚扰,37%的性少数群体玩家因其性取向而受到骚扰,这也属于意料之中。
随着深度伪造继续渗透到数字媒体的各个方面,想要利用这种底层技术的个人和企业将不得不提前全面考虑现有合同约定,掌握适用于这个问题的法律。
当然,像这样的通用技术也有可能被滥用,比如为了经济利益利用这种技术冒充诈骗,或者采用欺诈行为登录用声音识别的系统。而深度伪造技术将影响非玩家角色(NPC)以及玩家的化身。令人叫绝的GPT‑3等自然语言生成模型结合游戏深度伪造,将导致非玩家角色拥有与玩家化身进行对话的无限能力,实现同步的面部动作和口型令人信服,无须遵循特定脚本。电子游戏开发人员需要分析与相关角色和故事剧情内容所有者签订的现有授权协议,以确定是否准许使用深度伪造。
其他潜在收益
除上述使用深度造假的经济效益外,深度伪造的底层技术还可用于数字媒体社会公益活动。以一部HBO纪录片为例,该片详细介绍了面临处决危险的性少数群体活动家被迫隐姓埋名的生活。为了掩护这些活动家的身份,这部纪录片使用了深度伪造包装,导演在片中呈现的只是包装后的人物形象,用作包装的这些性少数群体活动家生活在不会因性取向而面临死亡威胁的国家。深度伪造技术还用于为数百万依靠合成语音交流的人士创造独特的定制声音。
未来的现实考虑
随着深度伪造继续渗透到数字媒体的各个方面,想要利用这种底层技术的个人和企业将不得不提前全面考虑现有合同约定,掌握适用于这个问题的法律。此外,签订艺人协议的人员应仔细审查涉及公开权的相关条款,以确保在结合人工智能技术的情况下自己能充分掌控此类权利的利用方式。如果处理时经过深思熟虑,深度伪造技术的发展和使用在商业和社会层面都能发挥良好的作用。