Giskard, une plateforme de test d'IA basée à Paris, détecte de manière proactive les vulnérabilités et les problèmes de conformité dans les applications LLM.
Siège
France
Fondé
2021
Employés
27
Giskard est une plateforme de test complète conçue pour prévenir les défaillances des systèmes d’IA, en particulier ceux impliquant des grands modèles de langage (LLM). La plateforme se concentre sur des mesures proactives pour éviter les vulnérabilités de sécurité et les problèmes de conformité des entreprises, garantissant que les applications d’IA sont robustes et fiables avant d’atteindre la production.
Giskard offre une plateforme d’équipes rouges automatisées qui génère en continu des scénarios d’attaque sophistiqués pour détecter les vulnérabilités de sécurité. Cette approche garantit un taux de couverture élevé des menaces potentielles, offrant aux entreprises une solution complète pour protéger leurs systèmes d’IA. La plateforme est conçue pour s’intégrer de manière transparente avec les outils d’observabilité existants, offrant une flexibilité de déploiement soit sur site, soit via des environnements SaaS basés sur le cloud.
Contrairement aux solutions de sécurité traditionnelles qui manquent souvent des problèmes critiques de conformité des entreprises, Giskard identifie de manière proactive des problèmes tels que les hallucinations, les refus inappropriés et les omissions d’informations. Cette position proactive aide les entreprises à éviter les pièges potentiels qui pourraient entraver l’adoption de l’IA et garantit que les systèmes d’IA répondent aux normes requises avant le déploiement.
Le studio d’annotation visuelle de Giskard permet aux experts métiers de définir des règles métiers et d’approuver des normes de qualité via une interface intuitive. Cette approche collaborative garantit que les équipes techniques et métiers peuvent travailler ensemble pour gérer efficacement la qualité de l’IA. La plateforme automatise également l’exécution des tests, convertissant les vulnérabilités découvertes en mesures de protection permanentes et créant un ensemble de données croissant qui empêche la régression.
Giskard est basé à Paris, en France. Fondée en 2021, l’entreprise s’est rapidement établie comme un leader dans la sécurité et la sûreté de l’IA, soutenue par les cofondateurs de HuggingFace et Mistral. Avec une équipe de 27 employés, Giskard est dédiée à fournir des solutions de niveau entreprise pour tester et sécuriser les applications d’IA.
La plateforme de Giskard est approuvée par de grandes entreprises, dont AXA, Société Générale, BPCE et Michelin. Cette confiance est basée sur la capacité de la plateforme à fournir des solutions robustes de sécurité et de conformité adaptées aux besoins des organisations à grande échelle.
Giskard est également un partenaire de recherche avec Google DeepMind sur Phare, un benchmark multilingue évaluant les LLM sur des dimensions clés de sécurité et de sûreté. L’entreprise garantit une isolation et un chiffrement complets des données avec une infrastructure hébergée dans l’UE, conformément aux normes de conformité du RGPD.
