OpenAI, Sora의 MLK 딥페이크 영상 생성 중단, 가족 측 불경스러운 묘사 항의에 응답

October 18, 2025
Sora
4 min

요약

오픈AI는 2025년 10월 17일(미국 동부 시간) 인공지능(AI) 영상 생성 도구인 소라(Sora)를 이용한 마틴 루터 킹 주니어(MLK Jr.) 관련 영상 콘텐츠 제작을 일시 중단한다고 발표했습니다. 이는 킹 목사 유산 관리 기관이 소셜 미디어에 유포된 수많은 "무례한 묘사"를 담은 딥페이크 영상에 대해 불만을 제기한 데 따른 조치입니다. 소라가 3주 전 출시된 이후, 사용자들은 이 도구를 이용해 킹 목사가 저속하거나 모욕적이며 인종차별적인 언행을 하거나, 절도, 경찰 추격 회피 등 인종적 고정관념을 강화하는 내용을 담은 초현실적인 가짜 영상을 대량으로 제작했습니다.

사건 배경

오픈AI는 2025년 9월 하순, 텍스트 프롬프트를 기반으로 짧은 영상을 생성하는 AI 도구인 소라 앱을 공식적으로 대중에게 공개했습니다. 이 앱은 사용자가 다각도 영상과 음성 녹음을 업로드하여 자신이나 타인의 딥페이크 영상을 만들 수 있는 '카메오' 기능을 포함하고 있습니다. 그러나 시스템은 출시 초기 역사적 인물이나 유명인의 초상권 사용에 대한 충분한 제한을 설정하지 않아, 사용자들이 다이애나 왕세자비, 존 F. 케네디, 커트 코베인, 말콤 X 등 역사적 인물에 대한 허위 영상 콘텐츠를 무단으로 생성할 수 있게 했습니다.

논란을 일으킨 콘텐츠

소라 출시 이후, 마틴 루터 킹 주니어 박사와 관련된 수많은 딥페이크 영상이 소셜 미디어에 빠르게 확산되었습니다. 이 영상들은 민권 운동 지도자인 킹 목사를 저속한 발언을 하거나, 범죄 행위에 가담하거나, 인종적 고정관념을 강화하는 이미지로 묘사했습니다. 구체적인 내용은 다음과 같습니다:

  • 킹 목사가 식료품점에서 물건을 훔치는 가상의 장면
  • 경찰 추격을 피하는 가짜 영상 제작
  • 킹 목사가 모욕적이거나 인종차별적인 발언을 하도록 만듦
  • 그의 역사적 유산을 왜곡하는 기타 터무니없거나 비하적인 장면

오픈AI의 대응

10월 17일 저녁(미국 동부 시간), 오픈AI는 마틴 루터 킹 주니어 유산 관리 기관(Estate of Martin Luther King, Jr., Inc.)과 공동 성명을 발표하며, 킹 목사를 묘사하는 모든 AI 영상 생성 기능을 일시 중단한다고 밝혔습니다.

오픈AI는 성명에서 "역사적 인물을 묘사하는 데 있어 강력한 표현의 자유 권리가 존재하지만, 오픈AI는 공인과 그 가족이 궁극적으로 자신의 초상권 사용 방식에 대한 통제권을 가져야 한다고 믿는다"고 말했습니다.

회사는 "역사적 인물에 대한 보호 조치를 강화"하고, 공인된 대리인이나 유산 소유자가 소라 영상에 등장하는 것을 옵트아웃(선택적 거부)할 수 있도록 허용할 것이라고 약속했습니다.

가족의 호소

킹 목사의 딸인 버니스 킹(Bernice King)은 이전에 소셜 플랫폼 X에 "제발 멈춰주세요"라고 간결하게 게시하며, 아버지의 이미지를 부적절하게 사용하는 영상에 대한 가족의 불만을 표명했습니다.

유사한 상황은 다른 고인이 된 유명인의 가족에게도 발생했습니다. 고인이 된 코미디언 로빈 윌리엄스의 딸인 젤다 윌리엄스(Zelda Williams)는 인스타그램에 "더 이상 아버지의 AI 영상을 보내지 말아 주세요... 아버지가 원했던 것이 아닙니다"라고 게시했습니다.

법적 및 윤리적 고려 사항

조지타운 대학교 법학대학원 지식재산권법 교수인 크리스텔리아 가르시아(Kristelia García)는 오픈AI가 유산 관리 기관의 불만이 제기된 후에야 조치를 취한 것은 회사의 일관된 "먼저 행동하고 나중에 용서를 구한다"는 접근 방식과 일치한다고 지적했습니다.

가르시아 교수는 "AI 산업은 매우 빠르게 발전하는 것처럼 보이며, 시장 선점은 오늘날의 화폐(분명히 사려 깊고 윤리적인 접근 방식보다 우선한다)"라고 말했습니다.

그녀는 각 주의 퍼블리시티권 및 명예훼손법이 딥페이크 콘텐츠에 항상 적용되지 않을 수 있으며, 이는 "누군가 불만을 제기하지 않는 한 기업이 계속 운영할 법적 위험이 거의 없다"는 것을 의미한다고 지적했습니다.

캘리포니아와 같이 강력한 보호를 제공하는 주에서는 공인의 상속인이나 유산 관리 기관이 유명인 사망 후 70년 동안 초상권을 가집니다.

정책 조정

소라 앱 출시 후 며칠 만에 오픈AI CEO 샘 올트먼(Sam Altman)은 앱을 수정하여 권리 보유자의 초상권 사용을 기본 허용에서 옵트인(선택적 동의) 방식으로 변경한다고 발표했습니다.

그러나 이러한 정책 변화는 논란을 완전히 잠재우지는 못했습니다. 할리우드 제작사와 에이전시들도 오픈AI가 저작권 보유자의 동의 없이 소라 앱을 출시한 것에 대해 우려를 표명했습니다.

더 광범위한 영향

이 사건은 AI 생성 콘텐츠 분야가 직면한 더 광범위한 과제를 반영합니다:

  1. 저작권 및 초상권 보호: 오픈AI는 ChatGPT 개발 과정에서도 유사한 접근 방식을 취했으며, 대량의 저작권 콘텐츠를 사용한 후에야 일부 출판사와 라이선스 계약을 체결했습니다. 이러한 관행은 이미 여러 건의 저작권 소송을 유발했습니다.

  2. 잘못된 정보의 위험: 비평가들은 딥페이크 기술이 진실과 허위의 경계를 모호하게 만들고, "AI 쓰레기 콘텐츠" 문제를 악화시켜 정보 생태계를 위협한다고 지적합니다.

  3. 윤리 심사 메커니즘: 법률 전문가와 연구자들은 AI 개발자들이 반응적인 문제 해결 방식 대신 제품 출시 전에 더욱 포괄적인 윤리 심사 메커니즘을 구축해야 한다고 촉구합니다.

  4. 업계 표준 확립: 이 사건은 딥페이크 기술 사용에 대한 통일된 윤리적 표준을 AI 산업 전반에 걸쳐 확립하는 계기가 될 수 있습니다.

소라 앱 현황

소라는 현재 초대 전용 단계에 있으며, 일부 사용자에게만 공개되어 있습니다. 오픈AI에 따르면, 이 앱은 출시 후 5일도 채 되지 않아 다운로드 수가 100만 건을 돌파하며 AI 영상 생성 도구에 대한 시장의 강한 관심을 보여주었습니다.

그러나 이 앱이 안전 보호 조치 측면에서 채택한 "먼저 발사하고 나중에 조준한다"는 전략은 지식재산권 변호사, 공인 및 잘못된 정보 연구자들의 경각심을 불러일으켰습니다.

미래 전망

오픈AI는 소라의 기능을 계속 확장하는 동시에 콘텐츠 통제 메커니즘을 강화할 것이라고 밝혔습니다. 회사는 더욱 진보된 유해 콘텐츠 감지 시스템을 통합하고, 다른 유산 관리 기관과 협력하여 더욱 완벽한 초상권 보호 메커니즘을 구축할 계획입니다.

이 사건은 AI가 빠르게 발전하는 시대에 기술 혁신, 표현의 자유, 개인의 존엄성 보호 사이에서 균형점을 찾아야 함을 강조합니다. 딥페이크 기술이 계속 발전함에 따라, 기술 개발자, 윤리학자, 문화유산 수호자들 간의 지속적인 대화가 혁신이 존엄성을 희생시키지 않도록 보장하는 데 필요합니다.

관련 링크: