Security Shield
Sécurité des prompts en deux couches : injection, jailbreak, fuite de données et secrets, en moins de 2 ms, toujours actif.
Le Security Shield HiWay2LLM est un middleware qui analyse chaque message entrant avant qu'il n'atteigne le modèle. Il fonctionne en deux couches et opère selon trois modes configurables : off, monitor et block.
Fonctionnement
Couche 1, Regex (< 2 ms, toujours active) : Une batterie de patterns compilés détecte les attaques les plus courantes sans charger de modèle. Elle couvre l'injection de prompt, les patterns jailbreak, les données personnelles (email, IBAN français, téléphone), les secrets API (OpenAI, Anthropic, GitHub PAT, tokens Bearer) et les tentatives d'extraction de prompt.
Couche 2, LLM Guard (20-50 ms, optionnelle) : Quand la couche 1 attribue un score de suspicion supérieur à 0,4, la requête est transmise à un pipeline NLP local (llm-guard). Cette couche n'est active que si le package est installé ; elle se dégrade silencieusement en couche 1 seule si absent.
Types de menaces détectées
- prompt_injection, tentatives de remplacement des instructions système - prompt_extraction, tentatives de lecture du prompt système - jailbreak, demandes de génération de malware, exploits ou contenu illégal - pii, données personnelles dans les messages utilisateur (email, téléphone, IBAN, SIRET/SIREN) - secrets, clés API et identifiants collés accidentellement dans les prompts
Conception fail-open
Toujours fail-open
Toute erreur interne du shield (DB injoignable, timeout Redis, exception inattendue) loggue un avertissement et laisse passer la requête. Le shield ne devient jamais un point de défaillance unique.
Événements et piste d'audit
Chaque menace détectée est écrite dans security_events avec le type, le score, l'action prise, le nom du modèle, le hash du prompt et l'IP client. Cette table est immuable par conception, un trigger base de données empêche tout UPDATE ou DELETE, produisant une piste d'audit inviolable adaptée à la conformité SOC 2 et RGPD.