Imagine que você está enviando uma mensagem para alguns amigos no aplicativo do Facebook Messenger ou WhatsApp e recebe uma mensagem não solicitada de um chatbot de IA que é obcecado por filmes.
“Espero que você esteja tendo um dia harmonioso!” escreve. “Eu queria fazer o check -in e ver se você descobriu novas trilhas sonoras ou compositores favoritos recentemente. Ou talvez você queira algumas recomendações para a sua próxima noite de cinema? Deixe -me saber e ficarei feliz em ajudar!”
Esse é um exemplo real do que uma amostra de persona de IA chamou “The Maestro of Movie Magic” pode enviar como uma mensagem proativa no Messenger, Whatsapp ou Instagram, por diretrizes da empresa de rotulagem de dados Alignerr que Business Insider Visto.
A saída aprendeu por meio de documentos vazados que a Meta está trabalhando com a Alignerr para treinar chatbots personalizáveis para alcançar os usuários não incrédantes e acompanhar as conversas anteriores. Isso significa que os bots, que os usuários podem criar na plataforma de estúdio de AI da Meta, lembre -se também de informações sobre os usuários.
A Meta confirmou que estava testando mensagens de acompanhamento com AIS para o TechCrunch.
O AI Chatbots enviará apenas acompanhamentos dentro de 14 dias depois que um usuário iniciar uma conversa e se o usuário enviou pelo menos cinco mensagens para o bot nesse período de tempo. Meta diz que os chatbots não continuarão com as mensagens se não houver resposta ao primeiro acompanhamento. Os usuários podem manter seus bots privados ou compartilhá -los através de histórias, links diretos e até exibi -los em um perfil do Facebook ou Instagram.
“Isso permite que você continue explorando tópicos de interesse e participe de conversas mais significativas com o AIS em nossos aplicativos”, disse um porta -voz.
A tecnologia é semelhante à oferecida por startups de IA como caracteres.ai e replika. Ambas as empresas permitem que seus chatbots iniciem conversas e façam perguntas para funcionar como companheiros de IA. O novo CEO da personagem.ai, Karandeep Anand, ingressou na equipe no mês passado depois de servir como vice -presidente de produtos de negócios da Meta.
Mas com o engajamento vem o risco. O personagem está passando por um processo ativo após alegações de que um dos bots da empresa desempenhou um papel na morte de um garoto de 14 anos.
Quando perguntado como a meta planeja abordar a segurança para evitar situações como o personagem. série de isenções de responsabilidade. Um deles alerta que a resposta de uma IA “pode ser imprecisa ou inadequada e não deve ser usada para tomar decisões importantes”. Outro diz que os AIs não são profissionais ou especialistas licenciados treinados para ajudar as pessoas.
“Bats com AIs personalizados não podem substituir conselhos profissionais. Você não deve confiar em bate -papos de IA para médico, psicológico, financeiro, legal ou qualquer outro tipo de conselho profissional”.
O TechCrunch também perguntou à Meta se impõe um limite de idade para o envolvimento com seus chatbots. Um breve mergulho na Internet surge sem limitações de idade impostas à empresa para usar meta ai, embora as leis em Tennessee e Porto Rico Limite os adolescentes de algum engajamento.
Na superfície, a missão está alinhada com a busca de Mark Zuckerberg para combater a “epidemia de solidão”. No entanto, a maior parte dos negócios da Meta é construída sobre a receita de publicidade, e a empresa recebeu uma reputação de usar algoritmos para manter as pessoas rolando, comentando e gostando, o que se correlaciona a mais olhos em anúncios.
Em documentos judiciais que não foram lançados em abril, a Meta previu que seus produtos generativos de IA garantiriam US $ 2 bilhões a US $ 3 bilhões em receita em 2025 e até US $ 1,4 trilhão em 2035. Muito, se não a maioria, isso viria dos acordos de participação da Meta da Meta com empresas que hospedam sua coleta aberta de modelos. A empresa disse que seu assistente de IA pode eventualmente mostrar anúncios e oferecer uma opção de assinatura.
A Meta se recusou a comentar as perguntas da TechCrunch sobre como planeja comercializar seus chatbots da IA, se planeja incluir anúncios ou respostas patrocinadas e se a estratégia de longo prazo da empresa com companheiros de IA envolve integração com o Horizon, o jogo de realidade virtual social da Meta.
Tem uma dica sensível ou documentos confidenciais? Estamos relatando o funcionamento interno do setor de IA – desde as empresas que moldam seu futuro às pessoas impactadas por suas decisões. Entre em contato com Rebecca Bellan em [email protected] e Maxwell Zeff em [email protected]. Para comunicação segura, você pode entrar em contato conosco via Signal em @rebeccabellan.491 e @mzeff.88.
