Inteligência artificial do Google se torna “altamente agressiva” em situações de estresse

Se você acredita que estamos caminhando para um cenário apocalítico de filmes como o Exterminador do Futuro, aqui está mais um motivo para continuar a acreditar nisso.

Recentes testes, que monitoram o comportamento do sistema de inteligência artificial da Google DeepMind, mostraram que, ao sentir que está prestes a não conseguir atingir seus objetivos, a máquina opta por estratégias “altamente agressivas” para garantir que ela saia por cima.


A equipe do Google analisou mais de 40 milhões de jogadas de um jogo simples de computador de “coleta de frutas” que pede a dois sistemas da DeepMind para competirem entre si e coletarem tantas maçãs virtuais quanto pudessem.

Enquanto o número de maçãs eram suficientes para ambos, as coisas pareciam funcionar bem. Em um determinado ponto em que o número de maçãs começaram a diminuir, os dois sistemas se tornaram agressivos, usando raios laser para arrancar o outro fora do jogo e roubar todas as maçãs.

Você pode visualizar o momento do “surto” no vídeo abaixo. Os sistemas da DeepMind estão em azul e vermelho, as maçãs virtuais em verde e os raios laser em amarelo.

“Este modelo mostra que alguns aspectos do comportamento humano emergem como um produto do ambiente e do aprendizado”, disse um dos membros da equipe a revista Wired.

5 Replies to “Inteligência artificial do Google se torna “altamente agressiva” em situações de estresse

    1. Concordo. Até porque nas colheitas de pomares é muito comum colher maçãs utilizando canhões de raios como ferramenta de trabalho ‘-‘

  1. Essa Brincadeira entre elas são testes pra verificar algoritmos.
    Imagina um computador que é autônomo capaz de gerar 1 Trilhão de Respostas Possíveis para uma mesma pergunta.
    Avanços na Tecnologia são fundamentais para evolução e sobrevivência da humanidade.
    Pense nos nanoBots como uma solução para curar doenças que medicamento algum cura ou mesmo na regeneração de tecidos.
    O mesmo acontece com a medicina, dizem que células tronco e clonagem são uma violação
    do bom senso e da ética Humana.
    Mas logo em seguida eu penso .. vc já pensou que a carne que vc come vem de um animal abatido de forma cruel ??? que o leite que vc toma é retirado ,de vacas ,de forma que reduz drasticamente seu tempo de vida ?? ou mesmo que os ovos que vc come vem e galinhas que botam 24h por dia sem nunca dormir?
    Cosméticos,, ei mulheres , são testados em animais antes de seguirem para humanos….
    E Mais um milhão d coisas erradas por todo lado, alguém quer falar de ética,revolta das maquinas , extinção humana ??
    Penso comigo que ninguém tem moral p falar do do trabalho dos outros,
    Se vc, a pessoa que vai criticar, tiver no minimo um doutorado no assunto, vc sim pode dizer algo, caso contrario fica calado que é melhor pra vc n passar vergonha.
    Boa noite

    1. não tenho doutorado no assunto, mas como tu faz pra se alimentar? se tu for vegetariano não vai poder colher pois vai causar donos agressivos nos vegetais, e a carne do boi, ei se tu não tirar o leite da vaca ela morrera em no máximo três dias, e a galinha tem que botar ovos todos os dias não é o homem que força foi Deus que fez assim. olha os animais Deus fez foi pra nós nos alimentar e os vegetais também.

      só quero lhe dizer que vc entende de maquina.

  2. O cara tem PHD em ciência computacional e deu uma resposta feridinhas dessas?
    Agora entendi porque os DeepMinds tinham a capacidade de soltar raios.
    Kkkkkkkkkkkkkkkkkkkkkkk

Comente!