O Magic Editor do Google Photos é uma poderosa ferramenta de edição baseada em inteligência artificial que transforma fotos em algo completamente novo.
No entanto, algumas preocupações surgiram em relação ao potencial uso indevido dessa ferramenta. Embora o Google tenha implementado restrições para evitar abusos, parece que a aplicação dessas restrições não é tão eficaz quanto se esperava.
O Magic Editor evoluiu de sua versão inicial, chamada Magic Eraser (“Borracha Mágica”), e agora é uma ferramenta mais abrangente disponível no Pixel 8.
Ao oferecer recursos avançados de edição, a ferramenta tem potencial para gerar documentos falsos ou forjar identidades, o que era considerado algo do futuro, mas agora é uma realidade com modelos de IA generativa, como o do Google.
Felizmente, o Google implementou algumas restrições no Magic Editor. Por exemplo, o aplicativo impede a edição de itens como cartões de identificação, recibos e outros documentos sensíveis. No entanto, algumas falhas foram encontradas na aplicação dessas restrições.
Nossos colegas do 9to5Google reportam que foi possível editar a imagem de uma carteira de motorista, sem qualquer alerta por parte do Google. É possível que as restrições anunciadas ainda não estejam em vigor.
