Router bypass (routing direct par clé)

Par défaut, chaque requête passe par le pipeline de routing CORTEX : sélection intelligente du modèle, chaînes de fallback, expériences A/B. Le router bypass est un toggle par clé qui court-circuite tout ça quand le client envoie un modèle qualifié explicite (ex. anthropic/claude-sonnet-4-6). La requête part directement chez le provider correspondant, sans auto-downgrade, sans fallback vers un autre modèle, sans assignation A/B.

Ce qui change avec bypass = true

• Les requêtes à modèle qualifié explicite (provider/model-name) skip CORTEX entièrement.
• Pas de fallback, si le modèle est inaccessible, vous récupérez l'erreur upstream directement (5xx, rate-limit).
• Pas d'auto-downgrade vers un tier moins cher sur workloads cost-sensitive.
• Pas d'assignation à une expérience A/B, même si la clé y est enrôlée.
• Markup s'applique au taux normal, bypass concerne le comportement de routing, pas le pricing.
• Les requêtes avec model: "auto" continuent de router normalement (bypass est ignoré dans ce cas).

Ce qui reste actif

Auth, budget control, rate limiting, Security Shield, semantic cache, injection cache prompt Anthropic, observabilité, tout continue de tourner. Le bypass concerne la sélection du modèle, pas les features gateway.

Activation

curl -X PATCH https://app.hiway2llm.com/api/v1/workspaces/WS_ID/keys/KEY_ID \
  -H "Authorization: Bearer hw_live_YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"router_bypass": true}'

Vérifier que c'est actif

L'enveloppe de réponse montre la décision de routing. Avec bypass activé et un modèle explicite :

{
  "_hiway": {
    "routed_model": "anthropic/claude-sonnet-4-6",
    "routed_tier":  "bypass",
    "fallback_chain": []
  }
}