Um novo relatório da organização Media Matters revelou uma situação preocupante envolvendo o uso da inteligência artificial do Google.
Segundo a entidade, vídeos ofensivos que viralizaram recentemente no TikTok teriam sido gerados com o Veo 3, a mais recente tecnologia de geração de vídeos por IA desenvolvida pela empresa.
Os conteúdos identificados incluem estereótipos racistas e antissemitas, como animações que associam pessoas negras a comportamentos criminosos e cenas absurdamente ofensivas com personagens em campos de concentração nazistas.
Um dos vídeos mais vistos mostrava um policial branco disparando contra uma pessoa negra, enquanto outro, com mais de um milhão de visualizações, trazia um homem esquelético ironizando a própria presença em um campo de extermínio.
Alguns desses clipes somavam milhões de visualizações e estavam marcados com a palavra “Veo” ou incluíam hashtags e nomes de usuário que faziam referência à ferramenta.
O relatório aponta que esses vídeos possuem características típicas de conteúdos gerados por IA, como distorções visuais, falhas nos cenários e textos desconexos, além de terem duração de até oito segundos, o limite atual das versões públicas do Veo 3.
A veiculação de tais materiais contraria as diretrizes tanto do TikTok quanto do Google, que proíbem expressamente discursos de ódio, violência e conteúdos que incentivem a discriminação.
Procuradas pelo Mashable, tanto o Google quanto o TikTok não comentaram o caso até a publicação da matéria. Vale lembrar que, no lançamento do Veo 3, o Google destacou o uso de marcas d’água digitais e diretrizes de segurança para prevenir abusos.
No entanto, o surgimento desses vídeos levanta questionamentos sobre a eficácia das medidas adotadas e os desafios éticos e técnicos no uso de IA generativa.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
