System prompts et routage
Pourquoi le system prompt influence le tier vers lequel votre requête est routée.
HiWay lit le message system pour scorer la complexité. Un system prompt détaillé de rôle avec beaucoup d'instructions signale une tâche complexe - le scorer pousse le routage vers un tier plus lourd. Un court "Tu es un assistant utile" reste neutre.
Ce que le scorer regarde
- Longueur - les long system prompts trahissent souvent des agents complexes, des workflows multi-étapes, ou des contraintes de sortie structurée.
- Instructions d'outils - "Tu as accès aux outils suivants" pousse la complexité vers le haut.
- Primers chain-of-thought - "pense étape par étape", "raisonne soigneusement" signalent du travail plus lourd.
- Mots-clés domaine code - "debug", "refactor", "architect" déclenchent le poids code.
Stable entre requêtes
Le scorer étant déterministe, le même system prompt produit toujours le même delta de tier. Vous pouvez tuner le system prompt de votre app pour tomber systématiquement sur un tier précis - HiWay ne vous surprendra pas avec un autre modèle au prochain appel.
Note confidentialité
Le system prompt est scoré en mémoire puis immédiatement jeté. Il n'est jamais loggé, jamais stocké, jamais envoyé nulle part sauf vers le fournisseur routé. Même garantie que le contenu du message utilisateur.