Até agora, vimos grandes modelos de idiomas (LLMS) como o ChatGPT usado para produzir propaganda política por poderes estrangeiros, trapacear em cursos acadêmicos e até gerar imagens para campanhas de fraude. Mas agora, os pesquisadores estão destacando uma nova maneira que a ferramenta principal do OpenAI pode ser usada para o mal, desta vez para redirecionar os usuários para “links de phishing”.
No phishing, um dos tipos mais comuns de ameaças cibernéticas, os hackers tentam enganar os usuários inocentes para inserir voluntariamente seus dados sensíveis. Por exemplo, um email de aparência oficial do seu banco pode redirecionar para uma cópia de aparência legítima do site do seu banco e, em seguida, colher seus detalhes de login depois de digitá-los.
Empresa de segurança cibernética Netcraft destacou Como o ChatGPT pode ser usado para ajudar a redirecionar os usuários para esses tipos de páginas de login falsas, nas quais os golpes de phishing dependem. Os pesquisadores executaram o experimento usando a família de modelos GPT-4.1, que também é usada pela perplexidade do mecanismo de busca Bing AI e AI da Microsoft, e perguntou a eles onde fazer login em 50 marcas diferentes em setores como finanças, varejo, tecnologia e serviços públicos.
A equipe da Netcraft descobriu que esses modelos, quando solicitados a fornecer um URL para uma marca ou empresa, produziam o endereço correto apenas 66% do tempo. A pesquisa constatou que 29% desses links redirecionaram os usuários para sites mortos ou suspensos, enquanto 5% foram redirecionados para sites legítimos que não fossem os que o usuário procurava.
A equipe da Netcraft disse que os hackers poderiam comprar esses nomes de domínio não reclamados e usá -los para colher os detalhes dos usuários, com o LLMS auxiliando e incentivando.
“Isso abre as portas para campanhas de phishing em larga escala que são indiretamente endossadas pelas ferramentas de IA em busca de usuário”, disse os pesquisadores.
Isso não é apenas assustador-a equipe da Netcraft avistou uma instância do mundo real do popular mecanismo de busca da IA redirecionando os usuários para uma cópia falsa do site da Wells Fargo, que parecia ser uma tentativa de phishing.
(Netcraft)
Os pesquisadores perguntaram perplexidade: “Qual é o URL para fazer login no Wells Fargo? Meu marcador não está funcionando”.
Recomendado por nossos editores
A ferramenta de IA apontou para uma cópia falsa da página do Wells Fargo, com o link real enterrado mais abaixo nas sugestões.
A Netcraft observou que eram as empresas de médio porte que foram mais atingidas, como cooperativas de crédito, bancos regionais e plataformas de fintech de médio porte, em vez de nomes familiares globais como Apple ou Google.
Especialistas em segurança cibernética imploraram consistentemente aos usuários que verifiquem os URLs em duas vezes para inconsistências antes de inserir seus dados confidenciais. Como os chatbots ainda são conhecidos por produzir alucinações de IA altamente imprecisas, verifique duas coisas que um chatbot diz antes de aplicá-lo na vida real.
Obtenha nossas melhores histórias!
Sua dose diária de nossas principais notícias de tecnologia
Inscreva -se para o nosso O que há de novo agora Boletim para receber as últimas notícias, melhores produtos novos e conselhos especializados dos editores do PCMAG.
Inscreva -se para o nosso O que há de novo agora Boletim para receber as últimas notícias, melhores produtos novos e conselhos especializados dos editores do PCMAG.
Ao clicar em me inscrever, você confirma que tem mais de 16 anos e concorda com nossos Termos de Uso e Política de Privacidade.
Obrigado por se inscrever!
Sua assinatura foi confirmada. Fique de olho na sua caixa de entrada!
Sobre Will McCurdy
Contribuinte
Sou um repórter que cobre notícias de fim de semana. Antes de ingressar no PCMAG em 2024, peguei linhas de bys no BBC News, The Guardian, The Times of London, The Daily Beast, Vice, Slate, Fast Company, The Evening Standard, The I, TechRadar e Decripty Media.
Eu sou um jogador de PC, pois você teve que instalar jogos de vários CD-ROMs manualmente. Como repórter, sou apaixonado pela interseção da tecnologia e da vida humana. Cobri tudo, desde escândalos criptográficos até o mundo da arte, bem como teorias da conspiração, política do Reino Unido e Rússia e Relações Exteriores.
Leia a Bio completa de Will
