Les modèles de pricing des gateways LLM expliqués : au token, à la requête, BYOK, flat
Quatre modèles de pricing, quatre structures d'incitation - prends celui aligné avec ton usage

La plupart des équipes choisissent une gateway LLM sur les features. C'est le mauvais premier filtre. Le premier filtre devrait être le modèle de pricing, parce que le modèle de pricing détermine ce que la gateway est structurellement incitée à optimiser - et donc ce qu'elle ship, deprecate, et résiste silencieusement dans le temps.

Il y a quatre modèles de pricing sur le marché des gateways LLM. Chacun crée un alignement différent entre toi et ta gateway. Une fois que tu vois le pattern, les différences de features commencent à faire sens.

Modèle 1 : Markup provider (style OpenRouter)

Comment ça marche. Tu envoies tes requêtes à la gateway. La gateway appelle les providers sur son compte. La gateway te facture les tokens à un petit markup au-dessus des tarifs wholesale. Tes clés provider ne sont pas impliquées - en fait, tu n'as même pas besoin de comptes provider.

Ce pour quoi c'est optimisé. Facilité d'onboarding. Une carte, un signup, tu es live. Catalogue de modèles massif parce que la gateway pré-négocie avec chaque provider.

L'incitation. Le revenu de la gateway grossit avec ta dépense en tokens. Chaque token économisé est un token de revenu perdu. Les features qui réduisent ta dépense - routing agressif vers des modèles moins chers, caching avancé, alertes burn-rate - sont des features que la gateway a une désincitation structurelle à bien shipper.

Où ça marche. Prototypage. Side projects. Use cases où la dépense totale est petite et la commodité domine. À quelques centaines de dollars par mois, un markup de 5 % est du bruit.

Où ça casse. À l'échelle. Une fois que ta dépense passe quelques milliers de dollars par mois, le markup compound en un vrai line item. 5 % sur 10K €/mois fait 500 €/mois, récurrents. Et la gateway n'a aucune raison structurelle de t'aider à réduire les autres 10K €.

Modèle 2 : Metered / usage-based (style Vercel AI Gateway)

Comment ça marche. Tu payes le provider pour les tokens directement (BYOK, souvent). La gateway te charge un fee metered - par requête, par token routé, par MB traité - en plus. Parfois il y a un tier gratuit.

Ce pour quoi c'est optimisé. Les plateformes où la gateway est embedded dans un produit plus large. Vercel la bundle avec leur plateforme. Cloudflare la bundle avec leur edge. Le mètre est designé pour scaler gentiment avec ton usage pour ne pas paraître punitif à faible volume.

L'incitation. Plus douce que le markup provider, mais toujours alignée avec la croissance d'usage. La gateway gagne plus d'argent quand ton volume de requêtes monte. Le routing basé sur l'intelligence vers des modèles moins chers réduit quand même leur revenu, bien que moins dramatiquement qu'avec le markup provider.

Où ça marche. Quand le fee metered est petit par rapport à ta dépense provider et tu valorises l'intégration plateforme. Pour les équipes déjà engagées sur Vercel ou Cloudflare, ça fit naturellement.

Où ça casse. À très hauts volumes, où même un petit mètre par requête s'additionne. Et quand le désalignement d'incitation commence à se montrer - la gateway pourrait shipper observability et fallbacks avant de shipper des features qui coupent tes coûts.

Modèle 3 : Markup BYOK dégressif (style HiWay)

Comment ça marche. Tu payes les providers directement au wholesale (BYOK). Tu payes la gateway un markup dégressif sur ta dépense API mensuelle - ex. Free pour démarrer, Scale avec markup 9-12,5% selon le volume (12,5% sous 500 $/mois, 11% entre 500 et 5 000 $/mois, 10% entre 5 000 et 20 000 $/mois), Enterprise négocié au-delà. Le même markup s'applique quel que soit le modèle vers lequel tu routes.

Ce pour quoi c'est optimisé. Coût proportionnel à la valeur. Le coût gateway évolue avec ta dépense réelle, mais reste en proportion connue d'avance. Plus tu routes intelligemment vers des modèles moins chers, plus le coût absolu du markup baisse.

L'incitation. Le revenu de la gateway est proportionnel à ta dépense en tokens, mais les économies de routing te bénéficient à 100% côté provider. Les features qui réduisent ta dépense en tokens (routing vers modèles moins chers, caching, alertes burn-rate) font baisser ton coût total - gateway comprise - donc la gateway a une incitation à les shipper.

Où ça marche. Équipes prod avec une dépense variable qui veulent une structure de coût simple et transparente. Équipes UE qui veulent aussi BYOK + hosting UE. Workloads mixtes où le smart routing (40-85 % d'économies) couvre largement le markup.

Où ça casse. Pour des volumes très prévisibles et stables, un abonnement flat pourrait être plus facile à budgéter. Pour les hobby projects ou trafic minimal, le plan Free couvre les fonctionnalités basiques sans frais.

Modèle 4 : OSS self-hosted (style LiteLLM)

Comment ça marche. Tu télécharges le soft, tu le deploies toi-même, tu payes le provider directement. La gateway elle-même n'a pas de coût runtime au-delà de l'infra sur laquelle tu la fais tourner.

Ce pour quoi c'est optimisé. Contrôle, coût à l'échelle (si tu as déjà la plateforme), évitement du vendor lock-in.

L'incitation. Aucune - il n'y a pas de vendor à inciter. La roadmap du soft est drivée par les mainteneurs et les contributions communauté. Les features arrivent quand quelqu'un les écrit.

Où ça marche. Équipes avec platform engineers et infra ops existante. Environnements régulés où faire tourner ta propre gateway est la seule option compliant.

Où ça casse. Petites équipes sans capacité platform engineering. Le label "gratuit" planque 4-8 heures/semaine d'ops, on-call, charge d'upgrade. Voir notre post séparé sur l'économie du self-host.

La matrice d'alignement

Voilà la même info en matrice :

La troisième ligne est celle qui change les choses. Avec un markup dégressif BYOK, 100% des économies de routing vont dans ta poche côté provider - la gateway ne prend pas un pourcentage de tes économies. C'est pas magique ; c'est juste de l'alignement d'incitations.

Le raisonnement break-even

Faisons un break-even réaliste entre les deux options managées - markup provider et markup BYOK dégressif - à différents niveaux de dépense.

Scénario : dépense wholesale 4 000 €/mois (workload mixte)

Modèle markup provider (5 % markup)

• Tokens wholesale : 4 000 €
• Markup : 200 €
• Total : 4 200 €/mois

Modèle markup BYOK dégressif HiWay (palier 10% pour 500-5 000 $/mois)

• Tokens wholesale (BYOK, payés aux providers) : 4 000 €
• Markup HiWay (10 % sur 4 000 €) : 400 €
• Total : 4 400 €/mois

À ce niveau de dépense, les deux modèles sont comparables. Mais le différenciateur clé est le smart routing.

Scale up avec smart routing : dépense provider réduite de 40-85 %

Route 60 % du trafic vers les modèles tier Haiku au lieu de Sonnet. La facture wholesale tombe à 2 000 €/mois.

• Markup provider (5 %, calculé sur la dépense pré-routing) : inchangé à 200 € ou plus
• Markup BYOK dégressif HiWay (10 % sur 2 000 €) : 200 €

Sous markup BYOK dégressif, le markup de la gateway baisse proportionnellement avec ta dépense. 100 % des économies provider te bénéficient - et le markup sur la base réduite est aussi plus bas. Le smart routing est indépendant du volume - il s'applique à chaque requête, que tu en fasses 5K ou 5M par mois.

À quoi ça ressemble en pratique

Trois patterns concrets que je vois quand les équipes changent de modèle de pricing :

Pattern 1 : Équipe markup essaye BYOK + markup dégressif à 10M req/mois. Ils tournaient à 8 000 €/mois markup 4 % inclus. Ils passent au markup dégressif BYOK Enterprise + BYOK. Leur markup résiduel est aligné sur leur dépense réelle. Mais plus important, le flip d'incitation se déclenche - ils commencent à activer le smart routing agressif parce que chaque euro économisé côté provider réduit aussi le markup de la gateway. Six mois plus tard leur facture tokens est 35 % plus basse. Économie annuelle totale : environ 38 000 €.

Pattern 2 : Équipe self-hosted de 4 ingés passe au managé. Ils "économisaient" sur une gateway en self-hostant LiteLLM, mais passaient 6 heures/semaine d'ingé dessus. Passage à gateway BYOK markup dégressif (plan Scale). Leur capacité ingé pour le boulot produit monte de ~25 heures/mois. Les features shipent plus vite. Le markup se paye sur le premier retard évité - plus le smart routing qui commence à rogner sur la facture provider en plus.

Pattern 3 : Solo founder reste sur markup. Dépense mensuelle totale 80 €. Un modèle markup avec signup instant est le bon choix pour lui. Le markup de 5 % fait 4 €. La friction du setup BYOK + abonnement ne vaut pas les 4 €. Il migrera dans 18 mois si le business grossit.

Les trois décisions sont correctes pour leurs contextes. L'erreur c'est de choisir la mauvaise pour ton contexte, généralement parce que tu as juste regardé les features et pas le modèle de pricing en dessous.

Attention à ces anti-patterns

"On facture un petit pourcentage sur l'usage tokens" + "On a de super features de réduction de coût"

Ces deux trucs sont en tension. Si le revenu de la gateway grossit quand tu dépenses plus, shipper des features qui te font dépenser moins est une contre-incitation. Certaines boîtes les shipent quand même parce que leur brand l'exige ; la plupart les dépriorisent silencieusement.

Structures de tiers qui paraissent généreuses en bas et pressurent en haut

Particulièrement commun dans les modèles metered. Les premières 100K requêtes sont gratuites, les 400K suivantes pas chères, et d'une façon ou d'une autre au-dessus d'1M/mois le coût par requête triple. Regarde toujours la courbe sur tes 12 mois d'usage projeté, pas juste le bucket d'aujourd'hui.

Markup opaque

Certaines gateways ne divulguent pas ouvertement leur markup. Tu les payes, elles payent le provider, tu ne vois jamais le tarif wholesale. Si tu ne peux pas dire quel est le markup, il est probablement plus large que ce que tu devinerais.

Tiers "gratuits à vie" qui piègent tes données

Un tier gratuit qui ne te laisse pas exporter tes logs de requêtes, l'historique des prompts, ou les données d'observability est un moat de lock-in déguisé en générosité. Vérifie toujours les conditions d'export.

Comment choisir ton modèle de pricing

Trois questions :

1. Quelle est ta dépense et à quelle vitesse grossit-elle ? Petite et flat → le markup va bien. Croît vite → BYOK + markup dégressif compound en ta faveur (le taux baisse à chaque palier).

2. Tu veux des features de réduction de coût ? Si tu veux smart routing, caching, alertes burn-rate - tu veux une gateway dont le revenu baisse quand ces features marchent. C'est BYOK + markup dégressif, ou OSS self-host.

3. Tu as de la capacité platform engineering ? Si oui, OSS self-host est sur la table. Sinon, élimine-le et choisis parmi les options managées.

Réponds à ces trois, et tu auras ta réponse en 30 secondes.

Le takeaway

Les gateways LLM ne diffèrent pas juste sur les features. Elles diffèrent sur la forme des incitations cuites dans leur pricing. Sur 12-24 mois d'usage, cette structure d'incitation compte plus que n'importe quelle feature précise, parce qu'elle détermine quelles features continuent à s'améliorer et lesquelles stalent silencieusement.

Choisis d'abord le modèle de pricing. Les bonnes features suivent.

---

Prochain : Vercel AI Gateway en production - forces, limites, alternatives.