Por que AI inventa coisas em vez de dizer “Eu não sei”
Um modelo de linguagem não procura respostas em uma base de dados de fatos. Continua a escrever do modo como esse texto normalmente continua, e fá-lo de forma muito convincente. Se você pedir um número ou link específico e o modelo não tiver dados confiáveis, ele ainda produzirá algo plausível: o formato certo, um tom confiante e detalhes agradáveis. É por isso que não se pode distinguir a verdade da invenção pela forma como ela soa. Uma resposta suave, detalhada e calma não diz nada sobre se está correta. Lembre-se disso: a dúvida deve ligar-se não quando uma resposta soa estranha, mas quando ela contém algo controlável e algo depende dela.
O que a IA inventa com mais frequência
Pequenos e verificáveis detalhes são os mais perigosos. Os itens mais frequentemente inventados são números exatos e percentuais, datas de eventos, nomes de pessoas e organizações, números de leis e artigos, citações “de um livro” ou “de uma entrevista”, endereços da web e títulos de artigos de pesquisa, e funções de programa ou configurações que não existem. Um link para uma fonte também não é prova: AI pode inventar aqueles também, completa com um nome de publicação crível e ano. Raciocínio geral, explicações de conceitos e reformulação de seu próprio texto são inventadas muito menos frequentemente, então é onde apontar a IA primeiro.
Quatro cheques que demoram cinco minutos.
Primeiro momento: pedir a fonte e abrir você mesmo. Se a página não existir ou disser outra coisa, não use a resposta. Segundo momento: encontrar o valor original. Verifique um número no site oficial da organização, pesquise uma citação por suas palavras exatas nas aspas, verifique uma lei no portal oficial do seu país. Terceiro momento: fazer a mesma pergunta em um novo bate-papo em palavras diferentes. Se as respostas diferem visivelmente, isso é um sinal de aviso. Quarto momento: pedir à IA que divida sua resposta em “confiante” e “não certo, precisa de verificação”. Não é garantia, mas mostra pontos fracos. A regra principal: qualquer coisa que você vai publicar, enviar ou assinar é verificada contra a fonte primária.
Como escrever um prompt que reduz respostas inventadas
A melhor maneira de cortar a invenção não é pedir à IA para se lembrar, mas dar-lhe material. Colar um texto, uma tabela ou um trecho e dizer que ele deve responder apenas a partir disso. Adicione permissão para dizer “o texto não diz”: muitos modelos precisam ser ditos explicitamente que não é permitido saber. Peça respostas curtas com uma citação do seu material, então cada alegação é fácil de verificar. Não exija “figuras exatas da memória” e não empurre quando a IA hesita: a pressão aumenta a chance de invenção. Se você precisar de dados novos, use um modo com pesquisa web onde existe, e ainda abrir os links você mesmo.
Quando você não deve confiar IA sem verificar
Alguns tópicos carregam um alto custo de erro: saúde e medicamentos, questões legais e prazos, impostos e dinheiro, segurança, e qualquer coisa que você publicar em seu nome ou mão para um cliente. Nestes domínios AI é excelente como auxiliar para preparar perguntas e um projeto, mas não como fonte de uma decisão. Para saúde e direito a resposta final vem de um especialista, e números e links são confirmados por fontes oficiais. Um hábito útil: antes de usar um resultado, pergunte-se o que acontece se é falso. Se a resposta é “nada sério”, basta uma verificação rápida. Se “há consequências”, verifique a fonte primária ou consulte um especialista.