Pourquoi l'IA se confond dans une longue conversation
Chaque fois, un modèle de langue reçoit toute la conversation comme un grand texte et des réponses basées sur elle. La taille de ce texte est limitée, et l'attention du modèle est inégalement répartie : les choses les plus récentes et les plus explicites sont plus importantes que les accords dès le départ. Ainsi, dans une longue discussion les règles originales perdre du poids, les réponses deviennent moins précises, et les erreurs antérieures et les détails errants commencent à influencer de nouvelles. Ce n'est pas de la mémoire au sens humain, mais une limite sur la taille et sur la façon dont le contexte est utilisé. Plus la conversation est longue et plus la chance de manquer quelque chose d'important est grande.
Première technique : un chat, une tâche
Le moyen le plus fiable d'éviter la confusion est de ne pas mélanger différentes tâches dans une conversation. Si vous avez terminé une lettre à un client et que vous voulez maintenant une présentation, ouvrez une nouvelle discussion. Ainsi rien de plus ne reste dans le contexte et le modèle n'essaie pas de combiner des choses incompatibles. Un titre de chat aide aussi: vous trouverez facilement la bonne conversation. Si la tâche est grande, divisez-la en étapes et donnez à chaque étape une prompte courte et autonome avec les données dont elle a besoin, au lieu d'espérer que le modèle tiendra tout à la fois.
Deuxième technique: un résumé des accords et un redémarrage
Lorsqu'une conversation est devenue longue, demandez à l'IA d'écrire un bref résumé : le but, les décisions prises, les exigences relatives au format et au ton, et ce qui a été fait. Vérifiez et corrigez-le. Puis ouvrez un nouveau chat et collez le résumé comme premier message, en ajoutant la nouvelle tâche. Vous obtenez un contexte propre où les choses importantes sont au tout début et non enterrés sous une conversation supplémentaire. Ceci est particulièrement utile pour les projets que vous exécutez pendant plusieurs jours : conservez le résumé dans vos notes et collez-le chaque fois que vous retournez au travail.
Troisième technique: fixer les règles où elles ne seront pas perdues
Les règles permanentes (langue, style, limites, format de réponse) ne sont pas répétées à la main dans chaque chat. De nombreux services ont des paramètres d'instructions personnalisées ou des espaces de travail de projet où les règles sont stockées séparément et appliquées automatiquement. Les noms et les fonctionnalités dépendent du service, alors regardez dans les paramètres. En tout état de cause, les règles de la phrase sont courtes et vérifiables: "Réponse en pas plus de cinq phrases, "utilisez le "vous". De longues instructions vagues fonctionnent pire que de courtes instructions spécifiques.
Comment vérifier que l'IA se souvient de tout
Avant les travaux importants, demandez au modèle de répéter brièvement les exigences suivantes : objectif, format, limites. Si quelque chose manque dans la récapitulation, ajoutez-la explicitement. Pour les documents longs, au lieu de coller un texte énorme, le diviser en parties et les traiter dans l'ordre, assemblant le résultat à la fin. Si vous remarquez que les réponses s'aggravent après une longue conversation, ne suppliez pas le modèle de se rappeler : commencez une nouvelle conversation avec un résumé. Il est plus rapide et plus fiable que de corriger la dérive accumulée.