Durante o evento SXSW, as empresas Google e Microsoft apresentaram novidades em IA generativa, mas o mestre de xadrez e embaixador da Avast, Garry Kasparov, alertou sobre o perigo de usuários serem enganados por atores mal-intencionados.
Segundo Kasparov, a IA não vence porque é mais inteligente que os humanos, mas porque comete menos erros. O grande temor dele é que os golpistas estejam usando a tecnologia para escrever mensagens convincentes, cada vez mais personalizadas, e enganar as pessoas por meio de phishing e outras formas de ataques de engenharia social.
Michal Pechoucek, CTO da Gen Digital, também alertou para o problema das ameaças cognitivas, que são cada vez mais comuns e difíceis de serem combatidas. Esse tipo de ataque geralmente envolve a falsificação de identidade de alguém do círculo próximo do usuário.
Com as ferramentas de IA generativa, os golpistas conseguem escrever textos mais convincentes, refinando-os com o aprendizado de reforço para otimizar a taxa de clique.
Além disso, com tantas informações pessoais disponíveis nas redes sociais, fica ainda mais fácil para os criminosos personalizarem os ataques.
Mas há soluções para se proteger dessas ameaças. De acordo com Pechoucek, é importante que o usuário verifique o endereço do remetente antes de clicar em links ou baixar arquivos, evite reutilizar senhas e compartilhar menos informações pessoais nas redes sociais.
Além disso, ele sugere a criação de plataformas que permitam a verificação de mídia com metadados criptografados, o que pode ajudar a construir mais confiança e segurança digital.
