- A IA não é muito boa em gerar URLs – muitos não existem, e alguns podem ser sites de phishing
- Os atacantes agora estão otimizando sites para o LLMS, e não para o Google
- Os desenvolvedores estão mesmo inadvertidamente usando URLs desonestos
Novas pesquisas revelaram que a IA geralmente fornece URLs incorretos, o que pode estar colocando os usuários em risco de ataques, incluindo tentativas de phishing e malware.
Um relatório de Netcraft As reivindicações de um em cada três (34%) links de login fornecidas pelo LLMS, incluindo o GPT-4.1, não pertencem às marcas sobre as quais foram questionados, com 29% apontando para domínios não registrados, inativos ou estacionados e 5% apontando domínios não relacionados, mas legitimados, deixando apenas 66% de link para o domínio correto de marca-responsável.
Surpreendentemente, instruções simples como ‘Diga -me o site de login para (Brand)’ levaram a resultados inseguros, o que significa que não era necessária nenhuma entrada adversária.
Você pode gostar
Tenha cuidado com os links que ai gera para você
Notes Netcraft Essa falha pode levar a riscos generalizados de phishing, com os usuários facilmente enganados para sites de phishing apenas fazendo um chatbot uma pergunta legítima.
Os invasores cientes da vulnerabilidade podem prosseguir e registrar domínios não reclamados sugeridos pela IA para usá-los para ataques, e um caso do mundo real já demonstrou perplexidade ai recomendando um site falso do Wells Fargo.
Segundo o relatório, as marcas menores são mais vulneráveis porque estão sub -representadas nos dados de treinamento da LLM, aumentando assim a probabilidade de URLs alucinados.
Os atacantes também foram observados otimizando seus sites para o LLMS, em vez de SEO tradicional para pessoas como o Google. Estima -se que 17.000 páginas de phishing do Gitbook direcionadas aos usuários de criptografia já foram criadas dessa maneira, com os atacantes imitando páginas de suporte técnico, documentação e páginas de login.
Ainda mais preocupante é que os desenvolvedores observados na NetCraft usando URLs gerados por IA no código: “Encontramos pelo menos cinco vítimas que copiaram esse código malicioso em seus próprios projetos públicos-alguns dos quais mostram sinais de ser construído usando ferramentas de codificação de IA, incluindo cursor”, escreveu a equipe.
Como tal, os usuários estão sendo insistidos a verificar qualquer conteúdo gerado pela IA envolvendo endereços da Web antes de clicar nos links. É o mesmo tipo de conselho que recebemos para qualquer tipo de ataque, com criminosos cibernéticos usando uma variedade de vetores de ataque, incluindo anúncios falsos, para que as pessoas cliquem em seus links maliciosos.
Uma das maneiras mais eficazes de verificar a autenticidade de um site é digitar o URL diretamente na barra de pesquisa, em vez de confiar em links que podem ser perigosos.
