OpenAI suspende a geração de vídeos deepfake de MLK pelo Sora em resposta a reclamações da família sobre representações desrespeitosas
Resumo
A OpenAI anunciou em 17 de outubro de 2025 (horário da Costa Leste dos EUA) a suspensão da criação de conteúdo de vídeo de Martin Luther King Jr. (MLK Jr.) por sua ferramenta de geração de vídeo por IA, Sora. A medida foi uma resposta a reclamações da administração do patrimônio da família King sobre a proliferação de numerosos vídeos deepfake com "representações desrespeitosas" nas redes sociais. Desde o lançamento do aplicativo Sora há três semanas, usuários têm utilizado a ferramenta para criar uma grande quantidade de vídeos falsos hiper-realistas que mostram o Dr. King em atos vulgares, ofensivos ou racistas, incluindo conteúdo que reforça estereótipos raciais, como roubo e fuga da polícia.
Contexto do Incidente
A OpenAI lançou oficialmente o aplicativo Sora ao público no final de setembro de 2025, uma ferramenta de IA que gera vídeos curtos a partir de prompts de texto. O aplicativo utiliza uma função "Cameo" que permite aos usuários carregar vídeos de múltiplos ângulos e gravações de voz para criar vídeos deepfake de si mesmos ou de outras pessoas. No entanto, o sistema, em seu lançamento inicial, não estabeleceu restrições suficientes para o uso da imagem de figuras históricas e celebridades, permitindo que os usuários gerassem conteúdo de vídeo falso de figuras históricas como a Princesa Diana, John F. Kennedy, Kurt Cobain e Malcolm X, sem autorização.
Conteúdo que Gerou Controvérsia
Desde o lançamento do Sora, um grande número de vídeos deepfake envolvendo o Dr. Martin Luther King Jr. surgiu rapidamente nas redes sociais. Esses vídeos retratavam o líder dos direitos civis proferindo linguagem vulgar, cometendo atos criminosos ou reforçando estereótipos raciais. Especificamente, incluíam:
- Cenas fictícias do Dr. King roubando em um supermercado
- Criação de vídeos falsos dele fugindo da perseguição policial
- Fazendo o Dr. King proferir declarações ofensivas ou racistas
- Outras cenas absurdas ou depreciativas que distorciam seu legado histórico
Resposta da OpenAI
Na noite de 17 de outubro (horário da Costa Leste dos EUA), a OpenAI e a Estate of Martin Luther King, Jr., Inc. emitiram uma declaração conjunta anunciando a suspensão de todas as funções de geração de vídeo por IA que retratam o Dr. King.
Na declaração, a OpenAI afirmou: "Embora existam fortes direitos de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que figuras públicas e suas famílias devem, em última instância, ter controle sobre como sua imagem é usada."
A empresa prometeu "reforçar as salvaguardas para figuras históricas" e permitir que representantes autorizados ou proprietários de patrimônio solicitem a opção de não aparecer em vídeos do Sora (opt-out).
Apelo da Família
A filha do Dr. King, Bernice King, havia postado anteriormente na plataforma social X, escrevendo sucintamente: "Por favor, parem." expressando o descontentamento da família com o uso indevido da imagem de seu pai nesses vídeos.
Situações semelhantes ocorreram com familiares de outras celebridades falecidas. Zelda Williams, filha do falecido comediante Robin Williams, postou no Instagram: "Por favor, parem de me enviar vídeos de IA do meu pai... Não é isso que ele queria."
Considerações Legais e Éticas
Kristelia García, professora de direito de propriedade intelectual na Georgetown University Law Center, observou que a OpenAI agiu somente após a reclamação do espólio, o que está em linha com a prática consistente da empresa de "agir primeiro e pedir perdão depois".
García afirmou: "A indústria de IA parece estar se desenvolvendo muito rapidamente, e a corrida para ser o primeiro no mercado é claramente a moeda de hoje (certamente priorizada em detrimento de uma abordagem ponderada e eticamente focada)."
Ela apontou que as leis de direito de publicidade e difamação variam entre os estados e podem nem sempre se aplicar a conteúdo deepfake, o que significa que "o risco legal para as empresas continuarem operando é mínimo, a menos que alguém reclame."
Em estados que oferecem forte proteção, como a Califórnia, os herdeiros ou a administração do patrimônio de figuras públicas detêm os direitos de imagem por 70 anos após a morte da celebridade.
Ajustes de Política
Nos dias seguintes ao lançamento do aplicativo Sora, o CEO da OpenAI, Sam Altman, anunciou modificações no aplicativo, alterando o uso da imagem de detentores de direitos de um padrão de permissão para um modo de "opt-in" (requerendo consentimento explícito).
No entanto, essa mudança de política não acalmou completamente a controvérsia. Estúdios de Hollywood e agências de talentos também expressaram preocupação com o lançamento do aplicativo Sora pela OpenAI sem o consentimento dos detentores de direitos autorais.
Implicações Mais Amplas
Este incidente reflete os desafios mais amplos enfrentados no campo do conteúdo gerado por IA:
Proteção de Direitos Autorais e de Imagem: A OpenAI adotou uma abordagem semelhante no desenvolvimento do ChatGPT, chegando a acordos de licenciamento com algumas editoras somente após o uso extensivo de conteúdo protegido por direitos autorais, uma prática que já resultou em vários processos por violação de direitos autorais.
Risco de Desinformação: Críticos apontam que a tecnologia deepfake está borrando as linhas entre o real e o falso, exacerbando o problema do "lixo de IA" e ameaçando o ecossistema da informação.
Mecanismos de Revisão Ética: Especialistas jurídicos e pesquisadores pedem que os desenvolvedores de IA estabeleçam mecanismos de revisão ética mais abrangentes antes do lançamento de produtos, em vez de adotar uma abordagem reativa para a resolução de problemas.
Estabelecimento de Padrões da Indústria: Este incidente pode impulsionar a criação de padrões éticos unificados para o uso da tecnologia deepfake em toda a indústria de IA.
Status Atual do Aplicativo Sora
O Sora ainda está em fase de convite, disponível apenas para um número limitado de usuários. De acordo com a OpenAI, o aplicativo ultrapassou 1 milhão de downloads em menos de cinco dias após seu lançamento, demonstrando o forte interesse do mercado em ferramentas de geração de vídeo por IA.
No entanto, a estratégia de "lançar primeiro e mirar depois" adotada pelo aplicativo em relação às medidas de segurança e proteção já alertou advogados de propriedade intelectual, figuras públicas e pesquisadores de desinformação.
Perspectivas Futuras
A OpenAI declarou que continuará a expandir as funcionalidades do Sora, ao mesmo tempo em que reforça os mecanismos de controle de conteúdo. A empresa planeja incorporar sistemas mais avançados de detecção de conteúdo prejudicial e pode colaborar com outras administrações de patrimônio para estabelecer mecanismos mais completos de proteção de direitos de imagem.
Este incidente destaca a necessidade de encontrar um ponto de equilíbrio entre inovação tecnológica, liberdade de expressão e proteção da dignidade individual na era do rápido desenvolvimento da IA. Com o avanço contínuo da tecnologia deepfake, é necessário um diálogo contínuo entre desenvolvedores de tecnologia, eticistas e guardiões do patrimônio cultural para garantir que a inovação não ocorra à custa da dignidade.
Links Relacionados:
- Declaração oficial da OpenAI: Postagem na plataforma X
- Blog de atualização do Sora de Sam Altman: Sora Update Number 1