Giskard, platforma testowa AI z siedzibą w Paryżu, proaktywnie wykrywa podatności i problemy z zgodnością w aplikacjach LLM.
Siedziba
Francja
Założono
2021
Pracownicy
27
Giskard to kompleksowa platforma testowa zaprojektowana w celu zapobiegania awariom w systemach AI, w szczególności tych wykorzystujących duże modele językowe (LLM). Platforma koncentruje się na proaktywnych działaniach mających na celu uniknięcie luk w zabezpieczeniach i problemów z zgodnością biznesową, zapewniając, że aplikacje AI są solidne i niezawodne przed wprowadzeniem ich do produkcji.
Giskard oferuje automatyczną platformę red teaming, która ciągłe generuje zaawansowane scenariusze ataków w celu wykrycia luk w zabezpieczeniach. To podejście zapewnia wysoki poziom pokrycia potencjalnych zagrożeń, dostarczając przedsiębiorstwom kompleksowe rozwiązanie do zabezpieczania ich systemów AI. Platforma jest zaprojektowana tak, aby łatwo integrować się z istniejącymi narzędziami do obserwacji, oferując elastyczność wdrożenia zarówno w środowiskach lokalnych, jak i w chmurze w modelu SaaS.
W przeciwieństwie do tradycyjnych rozwiązań bezpieczeństwa, które często pomijają krytyczne problemy z zgodnością biznesową, Giskard proaktywnie identyfikuje problemy takie jak halucynacje, nieodpowiednie odmowy i pominięcia informacji. To proaktywne podejście pomaga przedsiębiorstwom unikać potencjalnych pułapek, które mogą utrudniać adopcję AI, i zapewnia, że systemy AI spełniają wymagane standardy przed wdrożeniem.
Wizualne studio adnotacji Giskard umożliwia ekspertom biznesowym ustalanie reguł biznesowych i zatwierdzanie standardów jakości za pomocą intuicyjnego interfejsu. To podejście współpracujące zapewnia, że zarówno zespoły techniczne, jak i biznesowe mogą wspólnie efektywnie zarządzać jakością AI. Platforma automatyzuje również wykonanie testów, przekształcając wykryte podatności w stałe środki ochrony i tworząc rosnący zbiór danych, który zapobiega regresji.
Giskard ma siedzibę w Paryżu, we Francji. Założona w 2021 roku firma szybko ustanowiła się jako lider w dziedzinie bezpieczeństwa i ochrony AI, wspierana przez współzałożycieli HuggingFace i Mistral. Z zespołem liczącym 27 pracowników, Giskard jest zaangażowana w dostarczanie rozwiązań klasy enterprise do testowania i zabezpieczania aplikacji AI.
Platforma Giskard jest zaufana przez duże przedsiębiorstwa, takie jak AXA, Société Générale, BPCE i Michelin. To zaufanie opiera się na zdolności platformy do dostarczania solidnych rozwiązań bezpieczeństwa i zgodności dostosowanych do potrzeb organizacji na dużą skalę.
Giskard jest również partnerem badawczym Google DeepMind w projekcie Phare, wielojęzycznym benchmarku oceniającym LLM pod kątem kluczowych wymiarów bezpieczeństwa i ochrony. Firma zapewnia całkowitą izolację i szyfrowanie danych z infrastrukturą hostowaną w UE, przestrzegając standardów zgodności z GDPR.
