Desafios Éticos dos Vídeos Gerados por IA
Os vídeos hiper-realistas que utilizam imagens de celebridades e pessoas anônimas já falecidas têm causado polêmica nas redes sociais. Criados por aplicativos de inteligência artificial, como o Sora, desenvolvido pela OpenAI, esses conteúdos têm suscitado debates sobre a ética e o controle de imagem de figuras públicas e cidadãos comuns. Lançado em setembro, o aplicativo se tornou popular por gerar deepfakes que reconfiguram a representação de personagens históricos e celebridades, como Michael Jackson e Elvis Presley.
Os vídeos, que frequentemente viralizam em plataformas como TikTok e Facebook, apresentam situações inusitadas, como a rainha Elizabeth II participando de uma disputa de luta livre ou elogiando bolinhos de queijo em um supermercado. Apesar do caráter cômico que alguns desses clipes podem ter, nem todos os vídeos criados pelo Sora têm sido bem recebidos pelo público.
Reações e Consequências
Recentemente, em outubro, a OpenAI decidiu restringir a criação de vídeos que utilizam a imagem de Martin Luther King Jr. após receber reclamações de seus herdeiros. A utilização imprópria de sua imagem em clipes que distorcem seu legado e o seu famoso discurso “I have a dream” trouxe à tona a necessidade de um controle mais rigoroso sobre como as imagens de figuras icônicas podem ser usadas.
Constance de Saint Laurent, professora da Universidade de Maynooth, na Irlanda, destacou que estamos adentrando o chamado “vale da estranheza”. Essa teoria sugere que a imitação de características humanas por objetos ou representações hiper-realistas pode causar desconforto psicológico. Saint Laurent menciona que receber vídeos de um ente querido falecido pode ser traumatizante e que essas produções geradas por IA têm consequências reais e profundas.
Famílias em Luta pela Memória
Nas últimas semanas, membros da família de Robin Williams e do ativista Malcolm X expressaram sua indignação perante o uso do Sora para gerar vídeos com a imagem de seus entes queridos falecidos. Zelda Williams, filha de Robin, manifestou sua frustração no Instagram, pedindo que as pessoas parassem de enviar vídeos gerados por IA de seu pai, descrevendo a situação como “enlouquecedora”.
Em resposta à crescente preocupação, um porta-voz da OpenAI afirmou que, embora existam interesses legítimos na representação de figuras históricas, as personalidades e suas famílias deveriam ter o controle sobre como suas imagens são utilizadas. Para as figuras falecidas mais recentemente, representantes autorizados agora podem solicitar que suas imagens não sejam mais utilizadas no aplicativo Sora.
A Necessidade de Restrições
Hany Farid, cofundador da empresa de cibersegurança GetReal Security e professor da Universidade da Califórnia em Berkeley, ressaltou que, apesar das tentativas da OpenAI em fornecer controle sobre a imagem de algumas figuras públicas, a falta de restrições efetivas permite que usuários ainda se apropriem de diversas identidades. Ele alertou que, mesmo que a OpenAI tenha suspendido a criação de vídeos de Martin Luther King Jr., não é possível garantir que outros modelos de IA não permitam esse tipo de conteúdo.
Essa questão do uso da imagem de personalidades públicas não se limita ao aplicativo da OpenAI. A proliferação de outras ferramentas de inteligência artificial pode escalar o problema, uma vez que muitas delas não implementam proteções semelhantes. Isso foi evidenciado após a morte do cineasta Rob Reiner, cujos clipes gerados por IA começaram a circular na internet logo após seu falecimento.
Impactos na Privacidade e na Memória
À medida que as ferramentas de IA se tornam mais acessíveis e sofisticadas, o risco se estende além de figuras públicas. Pessoas anônimas que já faleceram também podem ter suas imagens e palavras manipuladas, ocasionando distorções de suas memórias. Pesquisadores alertam que o crescimento descontrolado desse tipo de conteúdo sintético, conhecido como “AI slop” ou “lixo de IA”, pode resultar em um afastamento dos usuários das redes sociais, além de gerar repercussões éticas e psicológicas.
