Qu'est-ce qu'un token exactement ?

Un token n'est pas un mot. C'est une unité de texte que le modèle IA traite — environ 0,75 mot en anglais et légèrement plus en français (les langues non-anglaises sont tokenisées moins efficacement).

Exemples concrets :

• "Bonjour" = 1 à 2 tokens

• "automatisation" = 3 à 4 tokens (le modèle décompose les mots longs)

• Un email de 200 mots = environ 300 à 350 tokens

• Un document PDF d'une page = environ 500 à 700 tokens

Quand vous envoyez un prompt à GPT-4o, vous payez pour chaque token en entrée (input) ET en sortie (output). Et voici le détail que beaucoup ignorent : output tokens are priced significantly higher than input tokens. The median output-to-input ratio is approximately 4x, with some premium models reaching 8x.

En d'autres termes : chaque token que le modèle génère coûte 4 fois plus cher que chaque token que vous lui envoyez. Réduire la verbosité de vos sorties est donc souvent plus impactant que d'optimiser vos prompts d'entrée.

Les 5 sources de gaspillage de tokens les plus courantes

1. Les prompts verbeux et polis

Mauvais exemple : "Pourriez-vous s'il vous plaît résumer de façon détaillée et exhaustive le texte suivant en tenant compte de tous les aspects importants ?"

Bon exemple : "Résumer en 5 points clés."

La différence : 30 tokens inutiles sur chaque appel. Sur 10 000 appels par mois, c'est 300 000 tokens gaspillés — soit environ 75€ avec GPT-4o.

2. L'historique de conversation non géré

Dans une conversation multi-tours, chaque message envoie l'intégralité de l'historique précédent. Une conversation de 20 échanges peut consommer 5 000 à 10 000 tokens inutilement alors que 500 tokens de contexte récent suffiraient.

3. Les documents envoyés en entier au lieu de sections pertinentes

Vous avez un document de 50 pages mais la question ne concerne que 2 paragraphes. La solution RAG (Retrieval-Augmented Generation) extrait uniquement les passages pertinents avant de les envoyer au modèle. Réduction possible : 70 à 90% des tokens d'entrée.

4. L'absence de limite de sortie explicite

Sans contrainte, les LLMs génèrent des réponses longues par défaut. Ajoutez systématiquement max_tokens dans vos appels API et précisez la longueur souhaitée dans votre prompt. "Répondre en maximum 100 mots" + max_tokens: 150 = contrôle strict du coût de sortie.

5. Le mauvais routage de modèle

Vous n'avez pas besoin de GPT-4o pour classer un email en 3 catégories. Un modèle léger comme GPT-4o-mini ou Claude Haiku fait le même travail à 10 à 20 fois le coût inférieur.

Règle de routage recommandée :

• GPT-4o-mini ou Claude Haiku : classification, extraction simple, résumés courts

• GPT-4o ou Claude Sonnet : rédaction, analyse complexe, prise de décision

• o1 ou Claude Opus : raisonnement avancé, code complexe, problèmes multi-étapes

6 stratégies concrètes pour optimiser vos tokens

Stratégie 1 - Le semantic caching

Si vos utilisateurs posent souvent les mêmes questions (ou des questions très similaires), le caching sémantique stocke les réponses et les réutilise sans appel API. Semantic caching can cut API costs by up to 73%. Outil recommandé : Redis ou Upstash.

Stratégie 2 - La compression de prompt

Technique : résumer les contextes longs avant de les envoyer au modèle principal. Exemple : au lieu d'envoyer 5 emails complets comme contexte, vous envoyez d'abord ces emails à un modèle léger qui génère un résumé de 100 tokens, puis vous utilisez ce résumé dans votre prompt principal.

Stratégie 3 - RAG (Retrieval-Augmented Generation)

Plutôt que d'envoyer l'intégralité de votre base de connaissances, RAG extrait les 2 à 3 passages les plus pertinents pour chaque question. Implémentation simple avec Supabase pgvector ou Pinecone.

Stratégie 4 - Le prompting structuré

Utilisez des formats courts et précis. JSON, listes à puces, tableaux — ces formats réduisent à la fois les tokens d'entrée et de sortie par rapport au texte narratif libre. Un développeur a rapporté une réduction de 84% de son coût en tokens uniquement en optimisant la structure de ses données. Source : Medium, The Hidden Cost of Tokens in LLMs, Novembre 2025.

Stratégie 5 - L'instruction referencing

Si vous répétez souvent les mêmes instructions ("réponds en français, sois concis, utilise un ton professionnel"), créez une instruction de référence courte : "Appliquer Style-ElevyUp" et définissez ce style une seule fois en début de session.

Stratégie 6 - Le Skeleton-of-Thought prompting

Pour les réponses longues, demandez d'abord un plan structuré (10 à 20 tokens), puis développez chaque section séparément en parallèle. Cette technique achieves up to 2.39x faster generation compared to traditional sequential decoding.

Tarifs comparatifs des modèles en 2026

Tarifs Janvier 2026. Source : Silicon Data, LLM Cost Per Token, 2026.