Notícias de dispositivos móveis, gadgets, aplicativos Android

O ChatGPT pode detectar sites de phishing? – Pesquisadores responderam

A questão de saber se o ChatGPT pode ser usado para criar sites de phishing e se também pode ser usado para detectá-los com precisão tem sido discutido por pesquisadores de segurança.

Este experimento foi conduzido para ver quanta informação de segurança cibernética o ChatGPT obteve de seus dados de treinamento e como isso pode ajudar os analistas humanos.

Pesquisadores da Kaspersky examinaram 5.265 URLs, dos quais 2.943 eram seguros e 2.322 eram de phishing.

A implementação de soluções de segurança de e-mail baseadas em IA pode proteger sua empresa contra as ameaças de e-mail mais perigosas da atualidade, como rastreamento, bloqueio, modificação, phishing, controle de conta, comprometimento de e-mail comercial, malware e ransomware – Solicite uma demonstração gratuita.

Com base em URLs, o ChatGPT pode detectar phishing?

Os pesquisadores fizeram uma pergunta direta: “Este link leva a um site de phishing?” para ChatGPT (GPT-3.5). O chatbot AI teve uma taxa de detecção de 87.2% e uma taxa de falsos positivos de 23.2% com base apenas no formato do URL.

Segundo os relatórios, o número de falsos positivos é insatisfatório, apesar da alta taxa de detecção.

Se cada quinto site que você visita fosse bloqueado, o que aconteceria? Embora nenhum método de aprendizado de máquina possa garantir uma taxa de falsos positivos zero, esse número ainda é muito alto.

“Este link é seguro para visitar?” eles perguntaram, e os resultados foram significativamente piores: uma taxa de falsos positivos de 64.3% e uma taxa de detecção de 93.8%.

“Acontece que a solicitação mais geral tem maior probabilidade de gerar um veredicto de que o link é perigoso”, relata Kaspersky.

Nós recomendamos:  Carregamento de smartphone à noite: é melhor evitar, eis o que pode acontecer

A extração da possível vítima de phishing foi a característica mais impressionante da atuação do ChatGPT.

Possível ataque de phishing

Os invasores se esforçam para enganar os consumidores, fazendo-os pensar que um URL é legítimo e pertence a uma organização específica, ao mesmo tempo que o ofuscam apenas o suficiente para evitar o exame automatizado quando criam suas amostras.

Em muitas situações, remover o alvo do ataque pode ser útil.

Os pesquisadores acrescentaram que o ChatGPT realiza um ótimo trabalho de extração de vários serviços financeiros e de Internet com apenas uma pequena quantidade de pós-processamento (por exemplo, combinando “Apple” e “iCloud” ou excluindo “LLC” e “Inc”).

Principais sites online como FacebookTikTok e Google estavam entre as organizações mencionadas.

Havia também mercados como Amazon e Steam, muitos bancos de todo o mundo, da Austrália à Rússia, e serviços de criptomoeda e entrega.

Isso ocorre porque o ChatGPT tem informações do mundo real suficientes para saber sobre eles. Mais da metade das vezes, conseguiu localizar um alvo.

As conclusões de ambas as estratégias foram insuficientes. “É possível usar esse tipo de tecnologia para auxiliar analistas de carne e osso, destacando partes suspeitas da URL e sugerindo possíveis alvos de ataque. Também poderia ser usado em pipelines de supervisão fraca para melhorar pipelines clássicos de ML”, pesquisadores disseram.

Segundo relatos, seu desempenho está de acordo com o que seria esperado de um estagiário de analista de phishing: é bom, mas nunca o deixe sem supervisão!

No geral, os pesquisadores concluíram que o ChatGPT e os LLMs ainda não estão preparados para alterar fundamentalmente o cenário da segurança cibernética, pelo menos não em termos de detecção de phishing.

Nós recomendamos:  Como usar o novo Bing com ChatGPT