Tokens, contexte et coût : planifier avant la facture
Avant un long document, posez deux questions : tient-il dans la requête, et combien pourrait-il coûter ? Les mots ne suffisent pas ; le token est l’unité de traitement et souvent de prix.
Un token n’est pas un mot fixe
Le tokenizer découpe selon un vocabulaire et des règles liés au modèle. Un mot peut rester entier ou se diviser. Aucune conversion fixe mots-tokens ne couvre tous les modèles et langues.
Un compte exact décrit ce tokenizer seulement. Un autre modèle, la structure des messages, les instructions ou les outils peuvent changer le total de la requête complète.
Références: Hugging Face — Tokenization Algorithms
Garder de la place pour la réponse
Si le contexte combine entrée et sortie, incluez instructions, historique et pièces jointes, puis réservez réponse et marge. Vérifiez les limites séparées éventuelles : elles dépendent du modèle et du mode.
Un budget fictif de 16000 tokens, 10000 en entrée et 2000 réservés en sortie, laisse 4000 de marge. Un document de 16000 seul ne laisse rien au reste.
Références: Google AI for Developers — Understand and Count Tokens
Calculer ce qui est réellement facturé
Utilisez les tarifs entrée/sortie avec leur unité, par exemple un million de tokens. Notez modèle et date du prix. Il s’agit de l’usage API, pas d’un abonnement mensuel au chat.
Cache, raisonnement, médias ou outils peuvent relever de catégories différentes. Consultez l’usage effectif au lieu de considérer chaque token envoyé ou affiché comme une seule classe de facturation.
Références: Google AI for Developers — Understand and Count Tokens
Réduire le gaspillage avant le contexte utile
Supprimez les répétitions involontaires et sélectionnez des extraits pertinents plutôt que toute l’archive. N’enlevez pas des faits qui changent la réponse pour réduire le compteur. En recherche documentaire, fragments et vecteurs estiment les ressources, pas la qualité de récupération.
Exemple aux tarifs inventés, sans devis fournisseur
Supposons 8000 tokens d’entrée à 2 USD par million et 1000 de sortie à 6 USD par million. Coût = 8000 ÷ 1000000 × 2 + 1000 ÷ 1000000 × 6 = 0,022 USD par requête.
100 requêtes identiques coûteraient 2,20 USD sous ces seules hypothèses, hors autres frais et nouvelles tentatives. Remplacez prix et volumes par vos mesures réelles avant de dépenser.