OpenAI、SoraによるMLKディープフェイク動画生成を停止。家族からの不適切な描写に対する訴えに応じる

October 18, 2025
Sora
4 min

要約

OpenAIは2025年10月17日（米国東部時間）、AI動画生成ツールSoraによるマーティン・ルーサー・キング・ジュニア（MLK Jr.）の動画コンテンツ制作を一時停止すると発表しました。この措置は、キング家遺産管理団体が、ソーシャルメディア上で大量の「敬意を欠く描写」のディープフェイク動画が拡散していると苦情を申し立てたことを受けての対応です。Soraが3週間前にリリースされて以来、ユーザーはこのツールを利用して、キング博士が下品で、不快な、あるいは人種差別的な言動をする超リアルな偽動画を大量に制作しました。これには、万引きや警察からの逃走など、人種的ステレオタイプを助長する内容も含まれています。

事件の背景

OpenAIは2025年9月下旬、テキストプロンプトに基づいて短編動画を生成するAIツールSoraアプリを正式に一般公開しました。このアプリは「Cameo」機能を搭載しており、ユーザーは多角的な動画や音声録音をアップロードすることで、自分自身や他人のディープフェイク動画を作成できます。しかし、このシステムはリリース当初、歴史上の人物や有名人の肖像使用に対する十分な制限を設けておらず、ユーザーはダイアナ妃、ジョン・F・ケネディ、カート・コバーン、マルコム・Xといった歴史上の人物を含む虚偽の動画コンテンツを無許可で生成することが可能でした。

物議を醸したコンテンツ

Soraのリリース以来、マーティン・ルーサー・キング・ジュニア博士に関する大量のディープフェイク動画がソーシャルメディア上で急速に拡散しました。これらの動画は、公民権運動の指導者であるキング博士を下品な発言をしたり、犯罪行為に従事したり、人種的ステレオタイプを助長するような人物として描写していました。具体的には以下の内容が含まれます。

  • キング博士が食料品店で万引きをする架空の場面
  • 警察の追跡から逃れる偽動画の制作
  • キング博士に不快な、あるいは人種差別的な発言をさせる
  • その歴史的遺産を歪める不条理な、あるいは中傷的なその他の場面

OpenAIの対応

10月17日夜（米国東部時間）、OpenAIはマーティン・ルーサー・キング・ジュニア遺産管理団体（Estate of Martin Luther King, Jr., Inc.）と共同声明を発表し、キング博士を描写するすべてのAI動画生成機能の一時停止を宣言しました。

OpenAIは声明で、「歴史上の人物を描写する上での表現の自由の権利は強いものの、OpenAIは、公人およびその家族が最終的にその肖像の使用方法について管理権を持つべきだと考えている」と述べました。

同社は「歴史上の人物に対する保護措置を強化する」ことを約束し、Sora動画への登場について、許可された代表者または遺産所有者がオプトアウトを要求できるようにするとしました。

遺族の訴え

キング博士の娘であるバーニス・キング氏は以前、ソーシャルプラットフォームXに「やめてください」と簡潔に投稿し、父親のイメージを不適切に使用した動画に対する家族の不満を表明していました。

同様の状況は、他の故人有名人の家族にも起こっています。故コメディアン、ロビン・ウィリアムズの娘であるゼルダ・ウィリアムズ氏は、Instagramに「父のAI動画を送るのはもうやめてください……これは父が望んだことではありません」と投稿しました。

法的・倫理的考察

ジョージタウン大学ロースクールの知的財産法教授クリステリア・ガルシア氏は、OpenAIが遺産管理団体からの苦情を受けて初めて行動を起こしたことは、同社の「まず行動し、後で許しを請う」という一貫したやり方に合致していると指摘しました。

ガルシア氏は、「AI業界は非常に急速に発展しており、市場での優位性を確保することが、今日の通貨（熟慮された倫理的アプローチよりも明らかに優先される）であるようだ」と述べました。

彼女は、各州のパブリシティ権と名誉毀損法には違いがあり、ディープフェイクコンテンツに常に適用されるとは限らないため、「誰かが苦情を申し立てない限り、企業が事業を継続する法的リスクは小さい」と指摘しました。

カリフォルニア州のような強力な保護を提供する州では、公人の相続人または遺産管理団体は、有名人の死後70年間、肖像権を保持します。

方針変更

Soraアプリのリリースから数日後、OpenAIのCEOサム・アルトマン氏は、アプリの変更を発表し、権利保有者の肖像使用をデフォルトで許可するのではなく、オプトイン方式に変更しました。

しかし、この方針転換は論争を完全に鎮めるものではありませんでした。ハリウッドの映画スタジオやエージェンシーも、OpenAIが著作権保有者の同意なしにSoraアプリをリリースしたことに対し懸念を表明しています。

より広範な影響

この事件は、AI生成コンテンツ分野が直面するより広範な課題を反映しています。

  1. 著作権と肖像権の保護: OpenAIはChatGPTの開発過程でも同様のアプローチを取り、大量の著作権コンテンツを使用した後に一部の出版社とライセンス契約を結びましたが、このやり方はすでに複数の著作権訴訟を引き起こしています。
  2. 誤情報の危険性: 批評家は、ディープフェイク技術が真実と虚偽の境界線を曖昧にし、「AI生成のスパムコンテンツ」問題を悪化させ、情報エコシステムを脅かしていると指摘しています。
  3. 倫理審査メカニズム: 法律専門家や研究者は、AI開発者が製品リリース前に、反応的な問題解決ではなく、より包括的な倫理審査メカニズムを確立するよう求めています。
  4. 業界標準の確立: この事件は、ディープフェイク技術の使用に関する統一された倫理基準をAI業界全体で確立する動きを促進する可能性があります。

Soraアプリの現状

Soraは現在も招待制段階にあり、一部のユーザーにのみ公開されています。OpenAIによると、このアプリはリリース後5日以内にダウンロード数が100万回を突破し、AI動画生成ツールに対する市場の強い関心を示しています。

しかし、このアプリが安全保護措置に関して採用した「まず発射し、後で狙いを定める」戦略は、知的財産弁護士、公人、誤情報研究者らの警戒を招いています。

今後の展望

OpenAIは、Soraの機能を拡張し続けるとともに、コンテンツ管理メカニズムを強化すると述べています。同社は、より高度な有害コンテンツ検出システムを導入し、他の遺産管理団体と協力して、より完璧な肖像権保護メカニズムを確立する計画です。

この事件は、AIが急速に発展する時代において、技術革新、表現の自由、個人の尊厳保護の間のバランスを見つける必要があることを浮き彫りにしています。ディープフェイク技術の継続的な進歩に伴い、テクノロジー開発者、倫理学者、文化遺産保護者間の継続的な対話が、尊厳を犠牲にすることなくイノベーションが実現されるよう確保するために必要です。

関連リンク: