Tokens et fenêtre de contexte : pourquoi une IA oublie des détails

Un token n’est pas toujours un mot

Un texte est découpé en unités appelées tokens. Un mot peut correspondre à plusieurs unités ; le découpage varie avec la langue et le tokenizer. Les images et autres médias peuvent également contribuer à la consommation de contexte selon le système.

Réduire les pertes d’information

1. Placez les contraintes essentielles dans une consigne claire.
2. Retirez les échanges devenus inutiles.
3. Résumez les décisions validées dans une note de référence.
4. Fournissez les passages pertinents plutôt qu’un ensemble de documents sans sélection.

Pour un projet de blog, gardez une fiche contenant public, ton, structure et sources approuvées. Réutilisez cette fiche au début d’une nouvelle séance de rédaction.

Vérifier ce que le modèle utilise

Demandez une liste des contraintes qu’il va appliquer, puis comparez-la à votre fiche. Cela permet de détecter une omission avant la production d’un long texte.

Limites

Une grande fenêtre de contexte augmente la capacité d’entrée, mais ne prouve pas que chaque détail sera correctement retrouvé ou interprété. Conservez les documents originaux comme référence.

Sources et documentation

• ai.google.dev — documentation de référence

À lire aussi

• RAG : permettre à une IA de répondre à partir de vos documents
• Agent IA ou automatisation classique : quelle différence ?