Pourquoi l'IA invente des choses au lieu de dire Je ne sais pas
Un modèle linguistique ne cherche pas de réponses dans une base de données de faits. Il continue de texter la façon dont ce texte continue habituellement, et il le fait de manière très convaincante. Si vous demandez un numéro ou un lien spécifique et que le modèle n'a pas de données fiables, il produira toujours quelque chose de plausible : le bon format, un ton confiant et de beaux détails. C'est pourquoi vous ne pouvez pas dire la vérité de l'invention par son son. Une réponse douce, détaillée et calme ne dit rien sur la justesse. Rappelez-vous ceci : le doute ne devrait pas s'allumer lorsqu'une réponse semble étrange, mais lorsqu'elle contient quelque chose de contrôlable et que quelque chose en dépend.
Ce que l'IA invente le plus souvent
Les petits détails vérifiables sont les plus dangereux. Les éléments les plus souvent inventés sont les nombres exacts et les pourcentages, les dates des événements, les noms des personnes et des organisations, les numéros de droit et d'article, les citations -d'un livre ou -d'une interview, les adresses Web et les titres des documents de recherche, et les fonctions de programme ou les paramètres qui n'existent pas. Un lien vers une source n'est pas non plus une preuve : l'IA peut inventer celles-ci aussi, avec un nom de publication crédible et une année. Le raisonnement général, les explications de concepts et la reformulation de votre propre texte sont inventés beaucoup moins souvent, donc c'est là où pointer d'abord l'IA.
Quatre vérifications qui prennent cinq minutes
Premièrement : demandez la source et ouvrez-la vous-même. Si la page n'existe pas ou dit autre chose, n'utilisez pas la réponse. Deuxièmement : trouvez la valeur originale. Vérifiez un chiffre sur le site officiel de l'organisation, recherchez un devis par ses mots exacts dans les guillemets, vérifiez une loi sur le portail officiel de votre pays. Troisièmement, posez la même question dans un nouveau chat en différents mots. Si les réponses diffèrent sensiblement, c'est un signe d'avertissement. Quatrièmement: demander à l'IA de diviser sa réponse en --confident et --pas sûr, doit vérifier. Ce n'est pas une garantie, mais elle montre des points faibles. La règle principale : tout ce que vous allez publier, envoyer ou signer est vérifié par rapport à la source principale.
Comment écrire une invitation qui réduit les réponses maquillées
La meilleure façon de couper l'invention n'est pas de demander à l'AI de se souvenir, mais de lui donner du matériel. Coller un texte, un tableau ou un extrait et dire qu'il ne doit répondre qu'à partir de cela. Ajouter l'autorisation de dire «le texte ne dit pas»: de nombreux modèles doivent être dits explicitement que ne pas savoir est permis. Demandez des réponses courtes avec une citation de votre matériel, de sorte que chaque revendication est facile à vérifier. Ne pas exiger des chiffres exacts de la mémoire et ne pas pousser quand l'IA hésite : la pression augmente les chances d'invention. Si vous avez besoin de nouvelles données, utilisez un mode avec recherche web où il y en a, et ouvrez toujours les liens vous-même.
Quand vous ne devez pas faire confiance à AI sans vérifier
Certains sujets comportent un coût élevé d'erreur : santé et médicaments, questions juridiques et délais, impôts et argent, sécurité et tout ce que vous publiez sous votre nom ou votre main à un client. Dans ces domaines, l'IA est une bonne aide pour la préparation des questions et un projet, mais pas comme source de décision. Pour la santé et le droit, la réponse finale vient d'un spécialiste, et les chiffres et les liens sont confirmés par des sources officielles. Une habitude utile : avant d'utiliser un résultat, demandez-vous ce qui se passe si c'est faux. Si la réponse est "rien de sérieux", un contrôle rapide suffit. S'il y a des conséquences, vérifiez la source primaire ou consultez un spécialiste.