Giskard, una plataforma de pruebas de IA con sede en París, detecta proactivamente vulnerabilidades y problemas de cumplimiento en aplicaciones LLM.
Sede
Francia
Fundada
2021
Empleados
27
Giskard es una plataforma de pruebas completa diseñada para prevenir fallos en los sistemas de IA, particularmente aquellos que involucran modelos de lenguaje grandes (LLM). La plataforma se centra en medidas proactivas para evitar vulnerabilidades de seguridad y problemas de cumplimiento empresarial, asegurando que las aplicaciones de IA sean robustas y confiables antes de llegar a producción.
Giskard ofrece una plataforma de equipos rojos automatizados que genera continuamente escenarios de ataque sofisticados para detectar vulnerabilidades de seguridad. Este enfoque garantiza una alta tasa de cobertura de posibles amenazas, proporcionando a las empresas una solución integral para salvaguardar sus sistemas de IA. La plataforma está diseñada para integrarse sin problemas con las herramientas de observabilidad existentes, ofreciendo flexibilidad en el despliegue tanto on-premise como en entornos SaaS basados en la nube.
A diferencia de las soluciones de seguridad tradicionales que a menudo pasan por alto problemas críticos de cumplimiento empresarial, Giskard identifica proactivamente problemas como alucinaciones, denegaciones inapropiadas y omisiones de información. Esta postura proactiva ayuda a las empresas a evitar posibles obstáculos que podrían dificultar la adopción de la IA y garantiza que los sistemas de IA cumplan con los estándares requeridos antes del despliegue.
El estudio de anotación visual de Giskard permite a los expertos empresariales establecer reglas de negocio y aprobar estándares de calidad a través de una interfaz intuitiva. Este enfoque colaborativo garantiza que tanto los equipos técnicos como los empresariales puedan trabajar juntos para gestionar la calidad de la IA de manera efectiva. La plataforma también automatiza la ejecución de pruebas, convirtiendo las vulnerabilidades descubiertas en medidas de protección permanentes y creando un conjunto de datos en crecimiento que previene la regresión.
Giskard tiene su sede en París, Francia. Fundada en 2021, la compañía se ha establecido rápidamente como líder en seguridad y protección de IA, respaldada por cofundadores de HuggingFace y Mistral. Con un equipo de 27 empleados, Giskard se dedica a proporcionar soluciones de nivel empresarial para probar y asegurar aplicaciones de IA.
La plataforma de Giskard es confiada por grandes empresas como AXA, Société Générale, BPCE y Michelin. Esta confianza se basa en la capacidad de la plataforma para ofrecer soluciones robustas de seguridad y cumplimiento adaptadas a las necesidades de organizaciones a gran escala.
Giskard también es socio de investigación con Google DeepMind en Phare, un punto de referencia multilingüe que evalúa LLM en dimensiones clave de seguridad y protección. La compañía garantiza un aislamiento y encriptación completos de datos con infraestructura alojada en la UE, cumpliendo con los estándares de GDPR.
