ChatGPT erra. E quando o erro cai sobre o seu negócio, a conta é sua

Onde o ChatGPT mais erra, por que o erro chega com cara de certeza e o que isso tem a ver com o que a IA diz sobre a sua empresa.

Homem jovem de óculos e camiseta branca olhando para o celular com a outra mão aberta, num gesto de dúvida, perto de uma janela

O advogado apresentou os precedentes. Os precedentes não existiam.

Em 2023, um caso nos Estados Unidos virou referência obrigatória para quem discute os riscos da inteligência artificial no trabalho profissional. Num processo contra a companhia aérea Avianca, em Nova York, um advogado usou o ChatGPT para pesquisar jurisprudência. O sistema devolveu uma lista bem formatada de casos, com nomes de juízes, datas, números de processo e citações internas. Tudo convincente. O material foi apresentado à Justiça, os advogados da companhia aérea não encontraram os casos, e o juiz P. Kevin Castel confirmou que seis das decisões citadas eram inventadas. Em junho de 2023, os dois advogados e o escritório foram multados em US$ 5 mil (Reuters).

O episódio virou símbolo porque mostra como os erros da IA acontecem. Eles raramente são óbvios. Chegam com o formato certo, o vocabulário certo e a estrutura certa, e é justamente essa característica que os torna perigosos quando entram numa decisão de negócio.

Onde o ChatGPT mais erra: um mapa prático

Nem todo uso da IA carrega o mesmo risco. O problema se concentra em territórios que dá para reconhecer.

Arte em fundo claro com cinco quadros desenhados à mão, numerados: 01 fatos específicos, como datas, leis e títulos pouco citados; 02 dados recentes, depois do corte de treinamento; 03 cálculos longos, com várias etapas encadeadas; 04 raciocínio extenso, que perde o fio no caminho; 05 empresas pequenas e locais, com poucos dados públicos (ampliar imagem)
Os cinco territórios em que a resposta da IA merece mais desconfiança Arte: Diamantino Estratégias

Fatos específicos e verificáveis. Datas exatas de eventos menores, títulos completos de publicações acadêmicas pouco citadas, números de leis, resultados precisos de estudos pouco presentes nos dados de treinamento. Nesses pontos, o modelo responde com confiança mesmo sem ter a informação consolidada.

Dados recentes. Os modelos têm uma data de corte de treinamento. Mudanças de lei, dados de mercado atualizados, lançamentos e alterações regulatórias que vieram depois desse corte ficam fora do alcance direto do modelo, que ainda assim pode tentar deduzir uma resposta a partir de padrões. Quando ele não faz uma busca na web, o resultado varia entre desatualizado e errado.

Cálculos em várias etapas. Um modelo de linguagem funciona de um jeito diferente de uma calculadora: ele estima resultados com base em padrões. Para contas simples, funciona. Para cálculos longos, frações encadeadas ou precisão numérica crítica, o risco é real.

Raciocínio longo. Em sequências extensas, o modelo pode perder o fio. Produz uma conclusão coerente na forma, apoiada numa premissa errada dez parágrafos antes, ou inverte a lógica de um argumento sem avisar.

Entidades pequenas e locais. Quanto menor a entidade, menos dados o modelo tem sobre ela. Uma empresa local, um profissional específico, um evento regional: menos dados significa mais espaço para invenção. Esse ponto tem consequência direta para o seu negócio, e voltaremos a ele.

O risco maior está na confiança

Existe uma diferença estrutural entre errar no Google e errar no ChatGPT. O Google devolve links, e você ainda precisa ir à fonte, ler e julgar. O ChatGPT devolve uma resposta. Uma única resposta, escrita com autoridade, sem hesitação visível e sem sinal de incerteza. O formato sugere certeza mesmo quando o conteúdo está errado.

Notebook aberto sobre uma mesa num quarto escuro, com a tela colorida acesa como única fonte de luz e luzes desfocadas da cidade ao fundo (ampliar imagem)
A resposta da IA chega sempre no mesmo tom seguro, esteja ela certa ou errada Foto: Shvets Production / Pexels

E há um agravante que pouca gente comenta: essa confiança tem explicação econômica. Em setembro de 2025, ao analisar um estudo da própria OpenAI sobre alucinações, o professor Wei Xing, da Universidade de Sheffield, estimou de forma conservadora que um ChatGPT ajustado para evitar invenções passaria a responder “não sei” a cerca de 30% das perguntas, e argumentou que os usuários, acostumados a respostas seguras, tenderiam a abandonar um sistema assim (The Conversation). A fluência confiante, portanto, também é fruto de como esses sistemas são avaliados e vendidos: o modelo é treinado para ser útil, e para parecer útil ele responde.

O perigo está menos no erro da IA e mais no tom de certeza com que ela erra

O que verificar e no que confiar

A IA generativa é poderosa de verdade para síntese, organização de ideias, primeiros rascunhos, análise de padrões em textos que você mesmo fornece e exploração de caminhos. Nesses usos, o risco de erro factual crítico é menor, porque o modelo trabalha sobre o material que você entregou a ele.

O risco cresce quando você pede ao modelo que recupere fatos específicos do próprio treinamento, sobretudo em temas técnicos, jurídicos, médicos, históricos ou locais. A regra prática é simples: trate a resposta como ponto de partida, nunca como destino. Qualquer fato com consequência real para uma decisão merece checagem na fonte primária.

O erro da IA sobre a sua empresa nasce nos seus dados

Aqui está a implicação que a maioria dos empresários ainda não percebeu. Lembra das entidades pequenas e locais, em que o modelo tem poucos dados e mais espaço para inventar? A sua empresa provavelmente é uma delas.

Se o ChatGPT encontra informações contraditórias sobre o seu endereço, os seus serviços ou a sua especialidade, ele vai produzir uma resposta errada sobre você. E esse erro nasceu na sua infraestrutura digital, antes de chegar ao modelo. Dados desencontrados entre site, perfis e cadastros viram respostas desencontradas. Consistência de informação deixou de ser capricho de SEO e virou proteção contra a alucinação alheia.

É por isso que o método Tráfego IA trata a estrutura de dados da marca como fundação: entidade bem definida, informação consistente em todas as fontes que os modelos consultam e conteúdo com substância. A IA vai falar sobre o seu negócio de qualquer jeito. A única escolha que existe é se ela vai falar com base em dados que você organizou ou em lacunas que ela preencheu sozinha.

Se você quer saber o que as IAs estão dizendo sobre a sua empresa hoje, fale com a Diamantino.

Posts Similares