PromptShield

PromptShield est un pipeline de détection local qui analyse les prompts entrants pour détecter d'éventuelles menaces avant qu'elles n'atteignent un LLM. Il aide à atténuer les risques tels que l'injection de prompt, le jailbreaking et les requêtes hors sujet en appliquant des limites de contexte.

Cette page inclut une démo interactive en direct qui se connecte directement à l'API de détection PromptShield sur Railway.