Tiktok está vendo um influxo de vídeos gerados pela IA mostrando estereótipos racistas. Todos os vídeos parecem ser gerados pela ferramenta Veo 3 lançada pelo Google, que pode produzir vídeos de IA detalhados.
Spotado por Watchdog sem fins lucrativos Media é importanteum novo relatório compartilha exemplos de muitos clipes racistas e como acredita que a ferramenta Veo AI do Google esteve envolvida na produção. Os vídeos foram enviados para Tiktok como clipes curtos individuais, mas a Media Matters reuniu muitos clipes no YouTube com um contexto adicional sobre cada um.
Muitos dos estereótipos racistas retratados são negativos para os negros nos Estados Unidos. Alguns dos vídeos mostram macacos, um insulto frequentemente usado por racistas, além de mostrar pessoas negras como pais ou criminosos ausentes.
Outros vídeos incluem tropos anti -semitas, enquanto alguns clipes têm como alvo especificamente os imigrantes. A Media Matters também encontrou clipes on -line se referindo a traumas históricos, como o Holocausto e os ataques de Ku Klux Klan aos americanos negros. Esteja ciente de que o vídeo a seguir abaixo inclui os leitores de conteúdo racista podem achar angustiante.
Cada um dos clipes é projetado para indignar usuários, incentivar reações e, portanto, alcançar mais pessoas através do algoritmo de Tiktok.
Exatamente como esses clipes foram produzidos permanece incerta, mas as evidências apontam para o novo VEO 3 do Google. Os clipes têm oito segundos, que é o limite de tempo atual na produção de vídeo no Veo 3. Alguns dos clipes também têm a palavra Veo no canto inferior direito.
A Media Matters também descobriu que havia várias referências ao VEO 3 nos clipes com alguns usando -o dentro das legendas ou hashtags, enquanto alguns tiveram o VEO incluído no nome de usuário da conta. Muitos dos clipes também têm erros associados à IA dentro das legendas.
Um porta -voz da Tiktok disse A beira“Explicamos proativamente regras robustas contra discursos e comportamentos odiosos e removemos as contas que identificamos no relatório, muitas das quais já foram banidas antes da publicação do relatório”.
Recomendado por nossos editores
As diretrizes da comunidade de Tiktok dizem: “Não permitimos discurso de ódio, comportamento odioso ou promoção de ideologias odiosas. Isso inclui conteúdo explícito ou implícito que ataca um grupo protegido”.
No entanto, esses vídeos não se limitam apenas a Tiktok. A beira Encontrei alguns exemplos dos vídeos que estão sendo visualizados no YouTube, enquanto diferentes vídeos racistas gerados pela IA foram encontrados no Instagram por Conectado.
O discurso de ódio gerado pela IA pode ser o próximo grande campo de batalha de moderação de conteúdo para as maiores redes sociais e plataformas de hospedagem de vídeo do mundo. Se você encontrar vídeos que acredita que mostre estereótipos racistas ou outro conteúdo prejudicial, use as ferramentas de relatório dessa plataforma para destacar os problemas.
Obtenha nossas melhores histórias!
Sua dose diária de nossas principais notícias de tecnologia
Inscreva -se para o nosso O que há de novo agora Boletim para receber as últimas notícias, melhores produtos novos e conselhos especializados dos editores do PCMAG.
Inscreva -se para o nosso O que há de novo agora Boletim para receber as últimas notícias, melhores produtos novos e conselhos especializados dos editores do PCMAG.
Ao clicar em me inscrever, você confirma que tem mais de 16 anos e concorda com nossos Termos de Uso e Política de Privacidade.
Obrigado por se inscrever!
Sua assinatura foi confirmada. Fique de olho na sua caixa de entrada!
Sobre James Peckham
Repórter
Escrevi notícias de tecnologia há mais de uma década e, como repórter no PCMAG, abrango os desenvolvimentos mais recentes nos gadgets e serviços que você usa todos os dias. Anteriormente, trabalhei para a polícia do Android, Techradar e muito mais.
Leia a biografia completa de James
