OpenAI叫停Sora生成MLK深度伪造视频 回应家族不尊重描绘投诉

2025-10-18
Sora
6 min

摘要

OpenAI于2025年10月17日(美东时间)宣布暂停其AI视频生成工具Sora制作马丁·路德·金(MLK Jr.)的视频内容。此举是在金恩家族遗产管理机构投诉大量"不尊重性描绘"的深度伪造视频在社交媒体传播后做出的回应。自Sora应用于三周前发布以来,用户利用该工具制作了大量展示金恩博士进行粗俗、冒犯或种族歧视言行的超逼真假视频,包括偷窃、逃避警察追捕等强化种族刻板印象的内容。

事件背景

OpenAI于2025年9月下旬正式向公众推出Sora应用,这是一款基于文本提示生成短视频的AI工具。该应用采用"Cameo"功能,允许用户上传多角度视频和语音录制,从而创建个人或他人的深度伪造视频。然而,该系统在发布初期并未对历史人物和名人的肖像使用设置充分限制,导致用户可以在未经授权的情况下生成包括戴安娜王妃、约翰·F·肯尼迪、科特·柯本、马尔科姆·X等历史人物的虚假视频内容。

引发争议的内容

自Sora推出以来,社交媒体上迅速出现了大量涉及马丁·路德·金博士的深度伪造视频。这些视频将这位民权运动领袖描绘成发表粗俗言论、从事犯罪行为或强化种族刻板印象的形象。具体包括:

  • 虚构金恩博士在杂货店偷窃的场景
  • 制作其逃避警察追捕的假视频
  • 让金恩博士说出冒犯性或种族主义言论
  • 其他歪曲其历史遗产的荒诞或贬损性场景

OpenAI的回应

10月17日晚(美东时间),OpenAI与马丁·路德·金遗产管理机构(Estate of Martin Luther King, Jr., Inc.)发布联合声明,宣布暂停所有描绘金恩博士的AI视频生成功能。

OpenAI在声明中表示:"虽然在描绘历史人物方面存在强烈的言论自由权益,但OpenAI认为,公众人物及其家族最终应该对其肖像的使用方式拥有控制权。"

公司承诺将"加强针对历史人物的防护措施",并允许授权代表或遗产所有者要求选择退出在Sora视频中出现。

家属的呼吁

金恩博士的女儿伯妮斯·金(Bernice King)此前在社交平台X上发文,简洁地写道:"请停止。"表达了家族对这些不当使用父亲形象视频的不满。

类似情况也发生在其他已故名人家属身上。已故喜剧演员罗宾·威廉姆斯的女儿泽尔达·威廉姆斯(Zelda Williams)在Instagram上发文:"请不要再给我发我爸爸的AI视频......这不是他想要的。"

法律与伦理考量

乔治城大学法学院知识产权法教授克里斯特利亚·加西亚(Kristelia García)指出,OpenAI仅在遗产方投诉后才采取行动,这符合该公司"先行动,后请求原谅"的一贯做法。

加西亚表示:"AI行业似乎发展非常快速,抢占市场先机显然是当今的货币(肯定优先于深思熟虑的、注重伦理的方法)。"

她指出,各州的公开权和诽谤法存在差异,可能并不总是适用于深度伪造内容,这意味着"除非有人投诉,否则企业继续运营的法律风险很小。"

在加利福尼亚州等提供强有力保护的州,公众人物的继承人或遗产管理机构在名人去世后70年内拥有肖像权。

政策调整

在Sora应用发布后的几天内,OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)宣布对应用进行修改,将权利持有者的肖像使用从默认允许改为需要选择加入(opt-in)模式。

然而,这一政策转变并未完全平息争议。好莱坞制片厂和经纪公司也对OpenAI在未获得版权持有者同意的情况下推出Sora应用表示担忧。

更广泛的影响

这一事件反映了AI生成内容领域面临的更广泛挑战:

  1. 版权与肖像权保护:OpenAI在ChatGPT开发过程中也采取了类似方法,在大量使用版权内容后才与部分出版商达成授权协议,这种做法已引发多起版权诉讼。

  2. 错误信息风险:批评者指出,深度伪造技术正在模糊真实与虚假之间的界限,加剧"AI垃圾内容"问题,威胁信息生态环境。

  3. 伦理审查机制:法律专家和研究人员呼吁,AI开发者应在产品发布前建立更加全面的伦理审查机制,而非采取反应式的问题处理方式。

  4. 行业标准建立:这一事件可能推动整个AI行业建立关于深度伪造技术使用的统一伦理标准。

Sora应用现状

Sora目前仍处于邀请制阶段,仅向部分用户开放。据OpenAI透露,该应用在推出后不到五天内下载量就突破100万次,显示出市场对AI视频生成工具的强烈兴趣。

然而,该应用在安全防护措施方面采取的"先发射,后瞄准"策略已引起知识产权律师、公众人物和错误信息研究人员的警觉。

未来展望

OpenAI表示将继续扩展Sora的功能,同时加强内容控制机制。公司计划纳入更先进的有害内容检测系统,并可能与其他遗产管理机构合作,建立更加完善的肖像权保护机制。

这一事件凸显了在AI快速发展的时代,技术创新、言论自由与个人尊严保护之间需要找到平衡点。随着深度伪造技术的不断进步,科技开发者、伦理学家和文化遗产守护者之间需要持续对话,以确保创新不以牺牲尊严为代价。

相关链接: