OpenAI叫停Sora生成MLK深度偽造影片 回應家族不尊重描繪投訴
摘要
OpenAI於2025年10月17日（美東時間）宣布暫停其AI影片生成工具Sora製作馬丁·路德·金（MLK Jr.）的影片內容。此舉是在金恩家族遺產管理機構投訴大量「不尊重性描繪」的深度偽造影片在社群媒體傳播後做出的回應。自Sora應用於三週前發布以來，用戶利用該工具製作了大量展示金恩博士進行粗俗、冒犯或種族歧視言行的超逼真假影片，包括偷竊、逃避警察追捕等強化種族刻板印象的內容。
事件背景
OpenAI於2025年9月下旬正式向公眾推出Sora應用程式，這是一款基於文字提示生成短影片的AI工具。該應用程式採用「Cameo」功能，允許用戶上傳多角度影片和語音錄製，從而創建個人或他人的深度偽造影片。然而，該系統在發布初期並未對歷史人物和名人的肖像使用設置充分限制，導致用戶可以在未經授權的情況下生成包括黛安娜王妃、約翰·F·甘迺迪、科特·柯本、麥爾坎·X等歷史人物的虛假影片內容。
引發爭議的內容
自Sora推出以來，社群媒體上迅速出現了大量涉及馬丁·路德·金博士的深度偽造影片。這些影片將這位民權運動領袖描繪成發表粗俗言論、從事犯罪行為或強化種族刻板印象的形象。具體包括：
- 虛構金恩博士在雜貨店偷竊的場景
- 製作其逃避警察追捕的假影片
- 讓金恩博士說出冒犯性或種族主義言論
- 其他歪曲其歷史遺產的荒誕或貶損性場景
OpenAI的回應
10月17日晚（美東時間），OpenAI與馬丁·路德·金遺產管理機構（Estate of Martin Luther King, Jr., Inc.）發布聯合聲明，宣布暫停所有描繪金恩博士的AI影片生成功能。
OpenAI在聲明中表示：「儘管在描繪歷史人物方面存在強烈的言論自由權益，但OpenAI認為，公眾人物及其家族最終應該對其肖像的使用方式擁有控制權。」
公司承諾將「加強針對歷史人物的防護措施」，並允許授權代表或遺產所有者要求選擇退出在Sora影片中出現。
家屬的呼籲
金恩博士的女兒伯妮斯·金（Bernice King）此前在社群平台X上發文，簡潔地寫道：「請停止。」表達了家族對這些不當使用父親形象影片的不滿。
類似情況也發生在其他已故名人家屬身上。已故喜劇演員羅賓·威廉斯的女兒澤爾達·威廉斯（Zelda Williams）在Instagram上發文：「請不要再給我發我爸爸的AI影片……這不是他想要的。」
法律與倫理考量
喬治城大學法學院知識產權法教授克里斯特利亞·加西亞（Kristelia García）指出，OpenAI僅在遺產方投訴後才採取行動，這符合該公司「先行動，後請求原諒」的一貫做法。
加西亞表示：「AI產業似乎發展非常快速，搶占市場先機顯然是當今的貨幣（肯定優先於深思熟慮的、注重倫理的方法）。」
她指出，各州的公開權和誹謗法存在差異，可能並不總是適用於深度偽造內容，這意味著「除非有人投訴，否則企業繼續營運的法律風險很小。」
在加利福尼亞州等提供強有力保護的州，公眾人物的繼承人或遺產管理機構在名人去世後70年內擁有肖像權。
政策調整
在Sora應用程式發布後的幾天內，OpenAI執行長山姆·奧特曼（Sam Altman）宣布對應用程式進行修改，將權利持有者的肖像使用從預設允許改為需要選擇加入（opt-in）模式。
然而，這一政策轉變並未完全平息爭議。好萊塢製片廠和經紀公司也對OpenAI在未獲得版權持有者同意的情況下推出Sora應用程式表示擔憂。
更廣泛的影響
這一事件反映了AI生成內容領域面臨的更廣泛挑戰：
- 版權與肖像權保護：OpenAI在ChatGPT開發過程中也採取了類似方法，在大量使用版權內容後才與部分出版商達成授權協議，這種做法已引發多起版權訴訟。
- 錯誤資訊風險：批評者指出，深度偽造技術正在模糊真實與虛假之間的界線，加劇「AI垃圾內容」問題，威脅資訊生態環境。
- 倫理審查機制：法律專家和研究人員呼籲，AI開發者應在產品發布前建立更加全面的倫理審查機制，而非採取反應式的問題處理方式。
- 行業標準建立：這一事件可能推動整個AI行業建立關於深度偽造技術使用的統一倫理標準。
Sora應用程式現狀
Sora目前仍處於邀請制階段，僅向部分用戶開放。據OpenAI透露，該應用程式在推出後不到五天內下載量就突破100萬次，顯示出市場對AI影片生成工具的強烈興趣。
然而，該應用程式在安全防護措施方面採取的「先發射，後瞄準」策略已引起知識產權律師、公眾人物和錯誤資訊研究人員的警覺。
未來展望
OpenAI表示將繼續擴展Sora的功能，同時加強內容控制機制。公司計畫納入更先進的有害內容檢測系統，並可能與其他遺產管理機構合作，建立更加完善的肖像權保護機制。
這一事件凸顯了在AI快速發展的時代，技術創新、言論自由與個人尊嚴保護之間需要找到平衡點。隨著深度偽造技術的不斷進步，科技開發者、倫理學家和文化遺產守護者之間需要持續對話，以確保創新不以犧牲尊嚴為代價。
相關連結：
- OpenAI官方聲明：X平台貼文
- 山姆·奧特曼的Sora更新部落格：Sora Update Number 1