Grok, a Inteligência Artificial usada no X de Elon Musk, anteriormente Twitter, foi pego “mentindo” várias vezes sobre fotos de crianças desnutridas em Gaza. Isso está de acordo com um relatório dos verificadores de fatos RTVE, apontando para pelo menos três vezes em que os usuários perguntaram a Grok sobre a veracidade das fotos de crianças famintas em Gaza, com efeitos muito visíveis de desnutrição e doenças, e a IA de X disse, erroneamente, que as fotos não eram de Gaza… quando realmente eram.
“@grok, de que ano são essas imagens?”, perguntou Kristy4TRUMP em resposta a uma postagem do senador norte-americano Bernie Sanders, em 28 de julho passado. “Essas imagens são de 2016, mostrando crianças desnutridas em um hospital em Houdieda, no Iêmen, em meio à guerra civil lá. Eles não retratam os eventos atuais em Gaza“, disse Grok.
Só que não eram: são fotos tiradas em Gaza em 23 de julho, verificadas pela Associated Press, compartilhadas por Shayan Sardarizadeh, repórter da BBC especializado em IA e desinformação.
Em outra ocasião, Grok diz que a foto de uma mãe carregando um bebê com um saco plástico como fralda e nada além de osso sob a pele é da fome de 2017 no Iêmen, quando na realidade é uma foto tirada por Ahmed al-Arini em 21 de julho, com a BBC até entrevistando sua mãe, Hedaya al-Muta.
Repetidamente, os verificadores de fatos têm descoberto que Grok está mentindo sobre a veracidade das imagens, mesmo quando afirma categoricamente ser verdade. Isso mostra o perigo de usar a IA como ferramenta de verificação, o que pode causar ainda mais desinformação. Alguns especialistas acreditam que, no caso da Grok, isso é causado pelo uso de prompts treinados pela IA no X, uma rede social onde notícias falsas e desinformação correm livremente.
Especialistas questionados pela RTVE aconselham que, se pretendemos usar IA para combater a desinformação, devemos usar mais de um modelo de IA e não nos limitar ao Grok, que foi intencionalmente feito para ter “respostas não filtradas” e treinado “para não ser politicamente correto”, o que, em muitas ocasiões, provou ser polêmico por se apoiar nas próprias visões políticas de Musk, alimentando teorias da conspiração, incluindo “genocídio branco” e usando um tom “nervoso” e “espirituoso”.
