Giskard, eine in Paris ansässige KI-Testplattform, erkennt proaktiv Sicherheitslücken und Compliance-Probleme in LLM-Anwendungen.
Hauptsitz
Frankreich
Gegründet
2021
Mitarbeiter
27
Giskard ist eine umfassende Testplattform, die entwickelt wurde, um Ausfälle in KI-Systemen, insbesondere solche mit großen Sprachmodellen (LLMs), zu verhindern. Die Plattform konzentriert sich auf proaktive Maßnahmen zur Vermeidung von Sicherheitslücken und Compliance-Problemen, um sicherzustellen, dass KI-Anwendungen robust und zuverlässig sind, bevor sie in die Produktion gehen.
Giskard bietet eine automatisierte Red-Teaming-Plattform, die kontinuierlich ausgefeilte Angriffsszenarien generiert, um Sicherheitslücken zu erkennen. Dieser Ansatz gewährleistet eine hohe Abdeckungsrate potenzieller Bedrohungen und bietet Unternehmen eine umfassende Lösung zum Schutz ihrer KI-Systeme. Die Plattform ist so konzipiert, dass sie nahtlos in bestehende Observability-Tools integriert werden kann und bietet Flexibilität bei der Bereitstellung, entweder vor Ort oder über cloudbasierte SaaS-Umgebungen.
Im Gegensatz zu herkömmlichen Sicherheitslösungen, die oft kritische Compliance-Probleme übersehen, identifiziert Giskard proaktiv Probleme wie Halluzinationen, unangemessene Ablehnungen und Informationsauslassungen. Diese proaktive Haltung hilft Unternehmen, potenzielle Fallstricke zu vermeiden, die die Einführung von KI behindern könnten, und stellt sicher, dass KI-Systeme die erforderlichen Standards erfüllen, bevor sie eingesetzt werden.
Giskards visuelles Annotationsstudio ermöglicht es Fachexperten, Geschäftsregeln festzulegen und Qualitätsstandards über eine intuitive Oberfläche zu genehmigen. Dieser kollaborative Ansatz stellt sicher, dass sowohl technische als auch geschäftliche Teams zusammenarbeiten können, um die KI-Qualität effektiv zu verwalten. Die Plattform automatisiert auch die Testausführung, wandelt entdeckte Sicherheitslücken in permanente Schutzmaßnahmen um und erstellt einen wachsenden Datensatz, der Regression verhindert.
Giskard hat seinen Hauptsitz in Paris, Frankreich. Das 2021 gegründete Unternehmen hat sich schnell als führend in den Bereichen KI-Sicherheit und -Sicherheit etabliert und wird von den Mitbegründern von HuggingFace und Mistral unterstützt. Mit einem Team von 27 Mitarbeitern ist Giskard bestrebt, Unternehmenslösungen für das Testen und Sichern von KI-Anwendungen anzubieten.
Die Plattform von Giskard wird von großen Unternehmen wie AXA, Société Générale, BPCE und Michelin vertraut. Dieses Vertrauen basiert auf der Fähigkeit der Plattform, robuste Sicherheits- und Compliance-Lösungen zu liefern, die auf die Bedürfnisse großer Organisationen zugeschnitten sind.
Giskard ist auch Forschungspartner von Google DeepMind bei Phare, einem multilingualen Benchmark, der LLMs in Bezug auf wichtige Sicherheits- und Sicherheitsdimensionen bewertet. Das Unternehmen gewährleistet eine vollständige Datenisolierung und -verschlüsselung mit einer in der EU gehosteten Infrastruktur und hält sich dabei an die GDPR-Compliance-Standards.
