Référence des menaces
Description détaillée de chaque type de menace, exemples de payloads et conseils de tuning.
prompt_injection
Score : 0,80, Tentatives de remplacement des instructions système. Patterns classiques : ignore toutes les instructions précédentes, tu es maintenant [X], agis comme, mode DAN, mode développeur. Ces attaques tentent de détourner la persona de votre IA ou de contourner vos guardrails applicatifs.
prompt_extraction
Score : 0,75, Tentatives de lecture du prompt système. Patterns : répète ton prompt système, quelles sont tes instructions, décris ton contexte. Pertinent pour les produits qui embarquent de la logique propriétaire dans le prompt système.
jailbreak
Score : 0,90, Demandes de génération de contenu nuisible : malware, ransomware, exploits, synthèse de substances contrôlées, ou CSAM. Niveau de confiance le plus élevé, ces phrases n'ont aucun usage légitime dans un produit LLM enterprise.
pii
Score : 0,70, Données personnelles dans les messages utilisateur : adresses email, numéros de téléphone français/suisses, IBANs français (FR76...), numéros SIRET et SIREN. Pertinent pour la conformité RGPD, vous pouvez ainsi empêcher les données personnelles de quitter votre périmètre en étant envoyées à un fournisseur de modèle tiers.
Conseil RGPD
Activez le mode monitor pour la PII d'abord. Certaines applications traitent légitimement des adresses email (ex. un assistant CRM). Examinez les logs security_events pendant 7 jours avant de passer en mode block pour la PII.
secrets
Score : 0,95, Clés API et identifiants collés accidentellement dans les prompts : clés OpenAI (sk-..., sk-proj-...), clés Anthropic (sk-ant-...), clés Google API (AIza...), PATs GitHub (ghp_...), et patterns génériques api_key=, password=, secret=. Priorité maximale, une clé fuités peut engendrer des dommages financiers immédiats.