Como os chatbots de IA se tornaram presas fáceis para espalhar informações erradas na web?

Os chatbots de inteligência artificial lançados pelas gigantes da tecnologia têm o potencial de degradar gravemente o ecossistema de informação da web.

Isso porque esses sistemas são incapazes de classificar informações confiáveis ​​e interpretar histórias sobre suas próprias capacidades.

O chatbot Bing, da Microsoft, por exemplo, afirmou erradamente que o chatbot Bard, do Google, havia sido desativado.

O erro ocorreu porque o Bing citou uma notícia que se referia a um comentário de piada no Hacker News.

Essa situação levanta preocupações significativas sobre o crescente papel dos chatbots de IA na web.

As empresas que os criam têm argumentado que são “experimentos” e “colaborações”, e não motores de busca.

No entanto, já foi visto que esses sistemas têm a capacidade de espalhar desinformação, como inventar notícias ou propagar informações falsas.

A falta de confiabilidade dos chatbots pode ter consequências graves, como disseminação de informações falsas e desconfiança na web.