O chatbot Grok, desenvolvido pela xAI de Elon Musk, divulgou informações falsas sobre o ataque a tiros ocorrido neste domingo (14) em Bondi Beach, na Austrália. A ferramenta de inteligência artificial identificou erroneamente Ahmed al Ahmed, o homem que desarmou um dos atiradores, e questionou a autenticidade de vídeos e fotos do incidente.
De acordo com o TechCrunch, este incidente levanta sérias preocupações sobre a confiabilidade das IAs em situações de notícias de última hora. Em várias publicações, o chatbot não reconheceu corretamente Ahmed al Ahmed, homem de 43 anos que conseguiu desarmar um dos agressores durante o ataque.
A ferramenta apresentou diferentes versões incorretas dos fatos. Em uma publicação, identificou equivocadamente o homem em uma foto como um refém israelense. Em outra ocasião, introduziu informações irrelevantes sobre o tratamento dado pelo exército israelense aos palestinos.
O Grok também atribuiu falsamente o ato heroico a um suposto “profissional de TI de 43 anos e arquiteto sênior de soluções” chamado Edward Crabtree. O incidente ocorreu na popular praia australiana e ganhou repercussão imediata nas redes sociais.
Fake news do Grok
A plataforma X disseminou os erros do Grok. Usuários identificaram que o chatbot forneceu dados incorretos em várias publicações. O sistema mencionou a idade correta de Ahmed (43 anos), mas atribuiu suas ações a outra pessoa fictícia.
Ainda não se sabe a extensão total da desinformação espalhada pelo Grok sobre este incidente. Além disso, também não há informações sobre quantos usuários foram expostos às informações incorretas antes das correções.
O Grok começou a corrigir alguns de seus erros. Isso porque em pelo menos uma publicação que supostamente afirmava que um vídeo do tiroteio mostrava na verdade o Ciclone Alfred foi corrigida “após reavaliação”.
Posteriormente, o chatbot reconheceu a identidade de Ahmed al Ahmed. O sistema esclareceu que o “mal-entendido surge de publicações virais que o identificaram erroneamente como Edward Crabtree, possivelmente devido a um erro de reportagem ou uma piada referenciando um personagem fictício”.
Além disso, a publicação original que causou a confusão apareceu em um site de notícias praticamente não funcional que pode ter sido gerado por IA.
The post Grok divulga informações falsas sobre ataque a tiros na Austrália appeared first on Giz Brasil.
