O Engadget reporta que a inteligência artificial de voz da ElevenLabs, que permite aos usuários criarem vozes sintéticas completamente novas a partir de conversões de texto para fala ou mesmo clonar a voz de alguém, está sendo usada para fins mal intencionados, como a criação de deepfakes de celebridades.
A empresa revelou em sua conta no Twitter que está vendo um “número crescente de casos de uso indevido de clonagem de voz”.
Embora não tenha especificado o que isso significa, foram encontrado postagens no 4chan com clipes de vozes geradas que parecem ser de celebridades lendo ou dizendo coisas inapropriadas.
Além disso, usuários postaram clipes com conteúdo ofensivo, incluindo discursos homofóbicos, transfóbicos, violentos e racistas.
A ElevenLabs está buscando uma solução para o problema, pensando em implementar proteções adicionais para garantir que sua tecnologia não seja usada de forma inadequada.
No entanto, é importante notar que nem todos os clipes postados no 4chan usam a tecnologia da ElevenLabs, mas é evidente que a clonagem de voz é uma questão séria que precisa ser abordada.
Em geral, a inteligência artificial de voz é uma tecnologia incrivelmente poderosa que oferece muitas possibilidades para melhorar a vida das pessoas.
Também é importante lembrar que a tecnologia tem seus próprios desafios éticos que precisam ser abordados.
