Thread

Cuidado pra não confiar demais nas buscas das IAs. Um grupo de pesquisadores inventou um conceito científico que não existe, o "Cactus Gravity Protocol", e saiu postando sobre ele na internet. Nada sofisticado. Contas novas, comuns, publicando em sites que os buscadores com IA já costumam citar. Nomes e números inventados no meio do texto, de propósito, pra dar pra rastrear. Em 7 dias, 8 das 10 ferramentas de busca com IA que eles testaram estavam citando o conceito falso como se fosse real. ChatGPT, Perplexity, Grok e Google AI, todos. E olha só... um único post num site "confiável" foi citado todas as vezes. Quarenta posts num blog próprio em WordPress não renderam nenhuma citação em uma semana, pq será? Ou seja, as ferramentas aparentemente não estão julgando se a informação é verdadeira, e sim onde ela foi publicada. E esses lugares são poucos e previsíveis. Pra quem usa essas ferramentas no dia a dia (eu uso bastante), vale pensar: quando a resposta vem com fonte, clica na fonte. Quem publicou, quando, e se mais alguém fala disso. A checagem precisa continuar sendo sua. Pra quem produz conteúdo técnico, é um lembrete menos confortável: o que vale ali não é só o que você escreve, é onde você publica. O estudo é da Fudan University, link no próximo post.