Impacto dos Vídeos Gerados por IA
Nos últimos tempos, uma onda de vídeos hiper-realistas de celebridades falecidas, produzidos por aplicativos de inteligência artificial como o Sora, da OpenAI, tem tomado conta das redes sociais. Esses conteúdos geram debates acalorados sobre a ética e o controle da imagem, tanto de pessoas comuns quanto de personalidades conhecidas que já partiram.
Lançado em setembro, o Sora tem sido alvo de críticas, sendo considerado por muitos como uma ferramenta para a criação de deepfakes — vídeos que imitam de maneira convincente as aparências e vozes de indivíduos. Entre os personagens retratados estão figuras históricas como Winston Churchill e ícones da música, como Michael Jackson e Elvis Presley.
Um exemplo intrigante circula no TikTok, onde a rainha Elizabeth II, caracterizada com coroa e colar de pérolas, aparece de scooter em um evento de luta livre, atravessando as cordas para pular sobre um lutador. Em outras produções, ela faz comentários sobre bolinhos de queijo em um supermercado ou até joga futebol. Embora alguns possam achar essas criações divertidas, muitos se sentem incomodados com a falta de respeito implícita.
Em resposta a esse fenômeno, a OpenAI tomou medidas drásticas em outubro, bloqueando a geração de vídeos com a imagem de Martin Luther King Jr. Essa decisão veio após reclamações dos herdeiros, que se depararam com vídeos inaceitáveis onde o ícone dos direitos civis era retratado de maneira ofensiva, durante seu famoso discurso “I Have a Dream”.
Consequências Emocionais e Éticas
A professora Constance de Saint Laurent, da Universidade de Maynooth, na Irlanda, ressalta que estamos entrando no que ela chama de “vale da estranheza”. Essa teoria sugere que a aproximação de um objeto à aparência humana pode provocar angústia. “Receber vídeos de um ente querido que já faleceu é algo traumático”, reflete a professora, sublinhando a gravidade das implicações desse tipo de conteúdo.
Recentemente, os filhos de celebridades como Robin Williams e Malcolm X manifestaram publicamente sua indignação quanto ao uso do Sora para criar vídeos de seus pais. Zelda Williams, filha do ator, expressou seu desgosto no Instagram, pedindo que parassem de lhe enviar essas criações. “É enlouquecedor”, desabafou, evidenciando a dor que esse tipo de conteúdo pode causar.
Um porta-voz da OpenAI reconhece a importância da liberdade de expressão, mas enfatiza que as personalidades públicas e suas famílias devem ter controle sobre seus próprios retratos. Para figuras recentemente falecidas, representantes autorizados poderão solicitar a proibição do uso de suas imagens no Sora. No entanto, essa medida levanta questões sobre a eficácia e abrangência da proteção.
Desafios em um Cenário em Evolução
Enquanto a OpenAI busca implementar restrições, especialistas como Hany Farid, cofundador da GetReal Security e professor da Universidade da Califórnia em Berkeley, alertam que o problema é mais amplo. “Embora tenham tomado algumas ações quanto a Martin Luther King Jr., isso não impede a apropriação da identidade de outras celebridades”, explicou Farid, deixando claro que a falta de regulamentação pode resultar em consequências sérias.
É importante destacar que o uso indevido da imagem de figuras públicas não se limita a um único sistema de IA. Outros modelos podem não ter as mesmas restrições. “O problema só vai piorar”, afirma Farid, enfatizando a necessidade urgente de uma discussão mais profunda sobre a ética e a regulamentação da inteligência artificial.
A situação ficou ainda mais evidente após a morte do diretor de cinema Rob Reiner, que, junto de sua mulher, foi assassinado por seu filho. A AFP localizou vídeos gerados por IA com a imagem do cineasta circulando online, mostrando que a vulnerabilidade não se restringe a figuras públicas, mas também atinge pessoas falecidas sem notoriedade.
Pesquisadores alertam que a proliferação impulsiva de conteúdos sintéticos, apelidada de “lixo de IA”, pode eventualmente afastar usuários das redes sociais, uma vez que a desconfiança sobre a veracidade do que é visto se torna uma preocupação constante. Esse fenômeno exige uma reflexão sobre como as plataformas e os desenvolvedores de IA devem agir para garantir a dignidade e o respeito pelas memórias dos que não estão mais entre nós.