HiWay2LLM vs Portkey

Portkey et HiWay2LLM se présentent tous les deux comme des LLM gateways, tous les deux se posent devant les mêmes providers upstream, et tous les deux parlent l'API OpenAI. Si tu ne lis que les landings, ils ont l'air interchangeables. Sous le capot ils optimisent pour deux choses très différentes.

Le centre de gravité de Portkey, c'est l'observabilité et la gouvernance : logs par requête profonds, versioning de prompts, guardrails, virtual keys pour scoper les budgets d'équipe. C'est ce vers quoi tu te tournes quand il faut savoir, en audit, ce que chaque requête a fait et qui l'a lancée.

Le centre de gravité de HiWay, c'est le coût par requête : un router qui lit chaque prompt entrant et choisit le modèle le moins cher capable d'y répondre, avec 0% de markup sur l'inférence et BYOK. C'est ce vers quoi tu te tournes quand ta facture grandit plus vite que ton revenu.

Voilà le match en face à face, sans bullshit.

Décision rapide

• Ta vraie douleur c'est "je ne vois pas ce que fait mon trafic LLM" ? Portkey. C'est le job pour lequel il est conçu.
• Ta vraie douleur c'est "cette facture n'arrête pas de grossir" ? HiWay. Le routing par complexité plus zéro markup visent exactement ça.
• Tu as besoin de versioning de prompts, d'A/B tests, d'une prompt library partagée ? Portkey a un produit de prompt management complet. HiWay non.
• Tu es en EU ou tu as besoin d'un hébergement RGPD avec DPA signé ? HiWay est hébergé sur OVH en EU. Vérifie les options de résidence de Portkey dans leurs docs publiques.
• Tu veux la couche la plus fine possible dans le hot path ? HiWay. Portkey ship un périmètre plus large.

Pricing

Portkey tourne sur un modèle SaaS par paliers : un tier gratuit pour les petits volumes, puis des tiers payants qui scale avec les features (rétention d'observabilité, seats, SSO entreprise, option on-prem). Pricing publié selon leurs docs publiques au 2026-04-22 — check leur site pour le détail exact. Le cadrage important : tu payes pour la couche observabilité et gouvernance, et sa valeur grandit avec la taille de l'équipe.

HiWay te facture un flat fee mensuel pour la couche routing. L'inférence est facturée par le provider directement sur ta carte chez eux au wholesale (BYOK, 0 % markup côté tokens) :

Le pari : une infra flat-fee qui scale avec les requêtes, pas avec les seats ou les fenêtres de rétention. Plus le smart routing qui downgrade automatiquement les requêtes simples vers des modèles moins chers — 40-85 % d'économies sur un mix typique — et qui bat les 15 €/mois de l'abo Build en quelques heures d'usage réel, à n'importe quelle échelle.

Règle simple : si ton équipe a plein d'ingénieurs et a besoin de gouvernance profonde des prompts, le pricing per-seat/feature de Portkey se justifie. Si ton équipe est petite et que ton problème c'est le volume, le flat fee par requête de HiWay est en général moins cher.

Feature par feature

Quand choisir lequel

Migration — ce qui change vraiment dans ton code

Si tu es sur Portkey aujourd'hui, switcher c'est un drop-in au niveau SDK. Tu gardes la même structure messages, le même streaming, la même lib client. Tu remplaces la base URL et les headers Portkey par la base URL et la clé HiWay.

from openai import OpenAI

client = OpenAI(
  base_url="https://api.portkey.ai/v1",
  api_key="PORTKEY_API_KEY",
  default_headers={
      "x-portkey-virtual-key": "VIRTUAL_KEY_ID",
  },
)

response = client.chat.completions.create(
  model="gpt-4o",
  messages=[{"role": "user", "content": "Bonjour"}],
)

from openai import OpenAI

client = OpenAI(
  base_url="https://app.hiway2llm.com/v1",
  api_key="hw_live_...",
)

response = client.chat.completions.create(
  model="auto",  # laisse le router choisir
  messages=[{"role": "user", "content": "Bonjour"}],
)

Deux étapes en plus avant le switch : ajoute tes clés providers une fois dans le dashboard HiWay (Settings → Providers), et garde model: "auto" si tu veux laisser le router choisir — ou pin un modèle précis si tu veux le forcer.

Observabilité d'abord vs routing d'abord — la fracture de catégorie

Les deux produits sont des gateways, mais ils viennent de problèmes de départ différents. Cette origine façonne encore ce que tu obtiens.

Portkey est né de l'observabilité. La valeur cœur c'est : chaque requête qui sort de ton app est capturée, indexée, cherchable, reliée à la version du prompt, scorée contre des guardrails. C'est pour ça que le produit existe. Le routing et les fallbacks sont des features autour de ce cœur. Si ta douleur c'est "je ne peux pas répondre à la question qu'est-ce que le LLM vient de faire", Portkey est fait pour toi.

HiWay est né du coût. La valeur cœur c'est : chaque requête est scorée en moins d'1 ms et envoyée vers le modèle le moins cher capable de la gérer. L'observabilité existe — logs par requête, cost breakdowns, audit trails — mais c'est une feature de support, pas le produit. Si ta douleur c'est "cette facture grossit chaque mois", HiWay est fait pour toi.

Ce partage compte parce que les deux jobs tirent le design dans des directions opposées. L'observabilité profonde veut tout logger pour toujours. L'optimisation du coût veut logger le moins possible (moins cher, plus rapide, plus privé). Tu peux boulonner l'un sur l'autre, mais le job principal façonne le produit.

En pratique, les setups les plus propres qu'on voit mettent un router axé coût comme HiWay dans le hot path (sensible à la latence, overhead minimal, zéro logging par défaut) et un outil d'observabilité à côté pour le trafic échantillonné ou en mode audit. Les deux ne sont pas mutuellement exclusifs. Mais demander à un seul produit de bien faire les deux finit en général par le rendre médiocre aux deux.

Données & compliance

Le produit cœur de Portkey c'est l'observabilité, ce qui signifie que par design il capture et retient les données prompt/réponse. C'est une feature, pas un bug — le but c'est justement d'inspecter ce que tes LLMs ont fait. Rétention, région, chiffrement sont configurables selon leurs docs publiques. Si tu as des données régulées qui transitent dans les prompts (santé, finance, juridique), prépare le déploiement avec soin.

HiWay est opéré depuis la France par Mytm-Group, hébergé sur OVH en EU. Zéro logging des prompts par défaut — les prompts transitent en mémoire et ne sont jamais persistés. On signe un DPA sur demande (même en free plan) et on publie nos sous-traitants. Si tu as besoin de logger pour ton propre debug, c'est opt-in par workspace avec une fenêtre de rétention configurable.

Défauts différents, jobs différents. Prends celui dont le défaut colle à ta posture compliance.

FAQ

Bilan

Portkey et HiWay sont tous les deux de vrais produits qui résolvent de vrais problèmes. Ce ne sont pas les mêmes. Portkey répond quand ta douleur c'est "il faut voir, gouverner et auditer chaque appel LLM que l'équipe fait". HiWay répond quand ta douleur c'est "cette facture grossit et le modèle le moins cher capable devrait se choisir tout seul". Prends selon la phrase que tu t'entends prononcer le plus souvent.

Si le coût est le chiffre que tu veux bouger, mets ta dépense actuelle dans le calculateur d'économies et regarde ce que le routing par complexité en fait.