Google vai usar inteligência artificial para identificar extremismo no YouTube

O Google anunciou hoje quatro novas medidas que visam mitigar a propagação do extremismo violento em vídeos do YouTube.

A iniciativa vai utilizar a tecnologia de inteligência artificial para detectar materiais que possam representar atos de terrorismo dentro do portal de vídeos.


“Estamos trabalhando com governos, policiais e grupos da sociedade civil para enfrentar o problema do extremismo violento online. Não deve haver lugar para conteúdo terrorista em nossos serviços”, disse o buscador.

Confira as quatro novas ações que serão tomadas pela empresa:

1) Aumento do uso da tecnologia de aprendizado de máquina para tentar identificar automaticamente “vídeos relacionados ao terrorismo e extremistas” – embora a empresa avise que isso “pode ​​ser um desafio”, ressaltando que as redes de notícias também podem transmitir vídeos de ataque terrorista, por exemplo.

2) Especialistas humanos do programa Trusted Flagger do YouTube – pessoas na comunidade do YouTube que têm uma taxa de alta precisão para sinalizar o conteúdo com problema.

O Google diz ainda que irá adicionar 50 “ONGs especializadas”, em áreas como discurso de ódio, auto-mutilação e terrorismo, à lista existente de 63 organizações que já estão envolvidas.

Também irá trabalhar com grupos contra-extremistas para tentar identificar conteúdos que possam estar sendo usados ​​para radicalizar e recrutar extremistas.

“As máquinas podem ajudar a identificar vídeos problemáticos, mas os especialistas humanos ainda desempenham um papel em decisões sobre a linha entre propaganda violenta e discurso religioso.

3) Uma posição mais forte em vídeos controversos que violam claramente as diretrizes comunitárias do YouTube – incluindo a adição de avisos intersticiais a vídeos que contenham conteúdo inflamatório religioso ou supremacista.

A Google observou que esses vídeos também “não serão monetizados, recomendados ou elegíveis para comentários ou endossos de usuários” – a ideia é que eles terão menos envolvimento e serão mais difíceis de encontrar.

“Nós pensamos que isso atinge o equilíbrio certo entre liberdade de expressão e acesso à informação sem promover pontos de vista extremamente ofensivos”, disse um porta-voz.

4) Por fim, expandir os esforços de contra-radicalização com a Jigsaw (divisão da Alphabet) com a implementação do “Método de Redirecionamento” de forma a aproveita o poder da publicidade online para alcançar recrutas do Isis e os redireciona para vídeos antiterroristas que possa mudar de opinião.

Em implementações anteriores deste sistema, o Google diz que os potenciais recrutas clicaram nos anúncios e assistiram mais de meio milhão de minutos de conteúdo de vídeo que desmascara mensagens de recrutamento de terroristas.

One Reply to “Google vai usar inteligência artificial para identificar extremismo no YouTube

Comente!