HiWay2LLM vs LangSmith

Des gens tapent "alternative LangSmith" et atterrissent sur HiWay2LLM. Puis ils lisent la homepage et réalisent qu'on fait autre chose. Cette page remet ça au clair.

LangSmith et HiWay résolvent des problèmes sur deux couches différentes d'une stack LLM. LangSmith c'est de l'observabilité — il regarde ce que ton app LangChain fait, enregistre les traces, fait tourner des evals sur des datasets, et t'aide à debugger pourquoi un agent a pris la branche qu'il a prise. HiWay c'est un router — il se place devant les providers de modèles, reçoit tes appels API, et choisit le modèle le moins cher capable de gérer chacun d'eux.

Tu peux utiliser les deux en même temps. La plupart des équipes LangChain sérieuses le font, et la config tient en trois lignes.

Décision rapide

• Tu debug un agent ou un chain LangChain ? LangSmith est le bon outil. Rien d'autre ne trace les internals de LangChain avec autant de finesse.
• Tu regardes ta facture d'inférence grimper tous les mois ? HiWay est le bon outil. Le smart routing + BYOK coupent la facture directement.
• Tu tournes LangChain en prod à l'échelle ? Utilise les deux. HiWay comme provider derrière ChatOpenAI ou ChatAnthropic, LangSmith pour tracer les chains autour.
• Tu n'es pas sur LangChain ? La valeur de LangSmith chute fort. Il a été construit pour l'abstraction LangChain. HiWay marche avec n'importe quel client OpenAI-compatible.

Pricing

LangSmith facture à la trace et au run d'eval. Le tier Developer est gratuit jusqu'à 5K traces par mois ; Plus commence à 39 $ par siège par mois avec plus de volume ; Enterprise c'est contact commercial. Si tu fais tourner une app LangChain en prod, tu atterris vite sur Plus ou Enterprise — une seule conversation d'agent réelle peut facilement déclencher 20–50 traces.

HiWay facture un flat fee pour la couche routing. L'inférence est payée directement au provider dont tu apportes les clés, au tarif wholesale publié — 0 % de markup de notre côté :

Le smart routing downgrade aussi automatiquement les requêtes simples vers des modèles moins chers — typiquement 40-85 % d'économies sur un mix d'usage normal — et bat les 15 €/mois de l'abo Build en quelques heures d'usage réel, à n'importe quelle échelle.

Ce ne sont pas des lignes concurrentes. Si tu utilises les deux, tu payes LangSmith pour la visibilité sur tes chains et HiWay pour l'inférence elle-même. Si tu drop LangSmith parce que tu n'es plus sur LangChain, tu gardes HiWay. Si tu drop HiWay parce que tu utilises un seul modèle d'un seul provider, tu gardes LangSmith.

Feature par feature

Quand choisir lequel

Migration — faire tourner HiWay derrière LangChain tout en gardant LangSmith pour le tracing

C'est la config que la plupart des équipes veulent vraiment : garder le tracing LangSmith intact, swapper le client LLM sous-jacent pour pointer sur HiWay. Trois lignes changent.

import os
from langchain_openai import ChatOpenAI

# Le tracing LangSmith reste tel quel
os.environ["LANGSMITH_TRACING"] = "true"
os.environ["LANGSMITH_API_KEY"] = "lsv2_..."

# Les appels vont direct sur OpenAI
llm = ChatOpenAI(
  model="gpt-4o",
  api_key=os.environ["OPENAI_API_KEY"],
)

response = llm.invoke("Bonjour")

import os
from langchain_openai import ChatOpenAI

# Le tracing LangSmith reste tel quel
os.environ["LANGSMITH_TRACING"] = "true"
os.environ["LANGSMITH_API_KEY"] = "lsv2_..."

# Les appels passent par HiWay — smart routing + fallback multi-provider
llm = ChatOpenAI(
  model="auto",
  base_url="https://app.hiway2llm.com/v1",
  api_key=os.environ["HIWAY_API_KEY"],
)

response = llm.invoke("Bonjour")

Voilà. Ton code LangChain ne sait pas que HiWay est là. LangSmith voit toujours chaque trace. La différence, c'est que la requête tape d'abord sur notre router, qui choisit Haiku / Sonnet / Opus / GPT-5-mini / Gemini Flash selon la complexité — et bascule sur un second provider si le premier plante.

La stack d'observabilité LangSmith — et ce que HiWay couvre à la place

La boucle centrale de LangSmith c'est : tracer chaque run de ton chain, enregistrer inputs/outputs/latence/tokens, construire des datasets à partir de runs réels, faire tourner des evals contre ces datasets, comparer des versions de prompts. C'est une surface observabilité + expérimentation complète taillée pour les abstractions LangChain. Si tu debugs pourquoi un agent a pris le mauvais tool call cinq hops plus loin, c'est dans LangSmith que tu trouveras la réponse.

HiWay se place en-dessous. Il ne trace pas les chains ni les agents. Il trace les requêtes. Par requête tu as : quel modèle a été choisi, pourquoi (décision de routing), token counts, latence provider, cache hit, coût en dollars. Tu as aussi les analytics par workspace, les burn-rate alerts, et un audit log. C'est assez pour répondre "où part l'argent" — pas assez pour répondre "pourquoi mon agent a bouclé".

La lecture honnête : si ta douleur c'est la correctness de la logique d'agent, LangSmith. Si ta douleur c'est le coût d'inférence et la fiabilité, HiWay. Si c'est les deux, tu fais tourner les deux.

Données & compliance

LangSmith est opéré par LangChain, Inc., une boîte US. Le LangSmith hébergé est aux US avec des terms RGPD sur le tier Enterprise ; un self-hosted LangSmith existe pour les secteurs régulés qui doivent garder les traces dans leur propre infra. Prompts et completions sont stockés dans les traces par défaut — c'est le produit.

HiWay est opéré depuis la France par Mytm-Group, hébergé sur OVH en EU. Zéro logging des prompts par défaut — les prompts transitent en mémoire et ne sont jamais persistés. On signe un DPA sur demande (même en free plan). Si tu veux des traces niveau requête avec les prompts, tu opt-in ; par défaut tu as juste les métadonnées (tokens, latence, modèle, coût).

Si tu utilises les deux, réfléchis à où vivent tes prompts. LangSmith stocke les traces (c'est voulu). HiWay non. Pour des workloads régulés, le pattern classique c'est : self-host LangSmith dans ton VPC, fais passer les appels LLM par HiWay.

FAQ

Bilan

LangSmith et HiWay ne sont pas concurrents. Ce sont des couches complémentaires d'une stack LLM — une pour observer ce que ton app fait, une pour router ce qui tape les providers. Si tu as déjà eu le sentiment que LangSmith ne t'aidait pas sur ta facture d'inférence, ou qu'il te fallait une vraie gateway devant tes chains, c'est pour ça.

Fais tourner les deux : LangSmith pour le tracing de chains et les evals, HiWay comme provider derrière ChatOpenAI / ChatAnthropic. Tu gardes tout ce que tu aimes déjà dans LangSmith, tu ajoutes le smart routing, le fallback multi-provider, et une gateway hébergée en EU — sans rien réécrire au-dessus du client modèle.