Os chatbots de inteligência artificial lançados pelas gigantes da tecnologia têm o potencial de degradar gravemente o ecossistema de informação da web.
Isso porque esses sistemas são incapazes de classificar informações confiáveis e interpretar histórias sobre suas próprias capacidades.
O chatbot Bing, da Microsoft, por exemplo, afirmou erradamente que o chatbot Bard, do Google, havia sido desativado.
:format(webp)/cdn.vox-cdn.com/uploads/chorus_asset/file/24527632/slack_imgs.png)
O erro ocorreu porque o Bing citou uma notícia que se referia a um comentário de piada no Hacker News.
Essa situação levanta preocupações significativas sobre o crescente papel dos chatbots de IA na web.
As empresas que os criam têm argumentado que são “experimentos” e “colaborações”, e não motores de busca.
No entanto, já foi visto que esses sistemas têm a capacidade de espalhar desinformação, como inventar notícias ou propagar informações falsas.
A falta de confiabilidade dos chatbots pode ter consequências graves, como disseminação de informações falsas e desconfiança na web.
