A Tiktok observa que usa a tecnologia e os moderadores humanos para identificar conteúdo que quebra as regras. No entanto, o volume de uploads dificulta a moderação oportuna. Enquanto os vídeos racistas acumulam muitas visualizações, um porta -voz da Tiktok disse à ARS que mais da metade das contas citadas no relatório MediaMatters foram proibidas por violações de políticas antes da publicação do relatório e o restante foi removido.
Quanto ao Google, tem um abrangente Política de uso proibido Isso proíbe o uso de seus serviços para promover o discurso de ódio, assédio, bullying, intimidação e abuso. Todos os vídeos descobertos por meios de comunicação parecem se enquadrar em uma ou mais dessas categorias. Em um mundo perfeito, o VEO 3 se recusaria a criar esses vídeos, mas a imprecisão no prompt e a incapacidade da IA de entender as sutilezas dos tropos racistas (ou seja, o uso de macacos em vez de seres humanos em alguns vídeos) facilita a contornação das regras.
Tiktok, sendo o principal gigante do vídeo social do mundo, é um lugar natural para esses vídeos se espalharem. Não é exclusivo para Tiktok, no entanto. X (anteriormente Twitter) ganhou uma reputação de moderação muito limitada, levando a uma explosão de conteúdo de IA odioso. Esse problema também pode piorar muito em breve. O Google tem planos de integrar o VEO 3 nos shorts do YouTube, o que pode facilitar ainda mais o conteúdo semelhante para se espalhar no YouTube.
Tiktok e Google têm proibições claras nesse conteúdo, o que deveria ter impedido de ser visto milhões de vezes nas mídias sociais. A aplicação dessas políticas, no entanto, está faltando. Aparentemente, o Tiktok é incapaz de acompanhar a enxurrada de uploads de vídeo, e os guardrails do Google parecem insuficientes para bloquear a criação desse conteúdo. Entramos em contato com o Google para perguntar sobre os recursos de segurança do VEO 3, mas ainda não recebemos resposta.
Enquanto a IA generativa existir, as pessoas a usaram para criar conteúdo inflamatório e racista. O Google e outros sempre falam sobre os guardrails para evitar o uso indevido, mas não conseguem pegar tudo. O realismo do VEO 3 o torna especialmente atraente para quem deseja espalhar estereótipos odiosos. Talvez todos os corrimãos do mundo não parem isso.
