Giskard, una piattaforma di testing AI con sede a Parigi, rileva proattivamente vulnerabilità e problemi di conformità nelle applicazioni LLM.
Sede
Francia
Fondata
2021
Dipendenti
27
Giskard è una piattaforma di testing completa progettata per prevenire i fallimenti nei sistemi AI, in particolare quelli che coinvolgono modelli linguistici di grandi dimensioni (LLM). La piattaforma si concentra su misure proattive per evitare vulnerabilità di sicurezza e problemi di conformità aziendale, garantendo che le applicazioni AI siano robuste e affidabili prima di raggiungere la produzione.
Giskard offre una piattaforma di red teaming automatizzata che genera continuamente scenari di attacco sofisticati per rilevare vulnerabilità di sicurezza. Questo approccio garantisce un alto tasso di copertura delle potenziali minacce, fornendo alle imprese una soluzione completa per salvaguardare i loro sistemi AI. La piattaforma è progettata per integrarsi perfettamente con gli strumenti di osservabilità esistenti, offrendo flessibilità nella distribuzione sia on-premise che tramite ambienti SaaS basati su cloud.
A differenza delle tradizionali soluzioni di sicurezza che spesso non riescono a rilevare problemi critici di conformità aziendale, Giskard identifica proattivamente problemi come allucinazioni, dinieghi inappropriati e omissioni di informazioni. Questa posizione proattiva aiuta le imprese a evitare potenziali insidie che potrebbero ostacolare l’adozione dell’AI e garantisce che i sistemi AI soddisfino gli standard richiesti prima della distribuzione.
Lo studio di annotazione visiva di Giskard consente agli esperti aziendali di impostare regole aziendali e approvare standard di qualità attraverso un’interfaccia intuitiva. Questo approccio collaborativo garantisce che sia i team tecnici che quelli aziendali possano lavorare insieme per gestire efficacemente la qualità dell’AI. La piattaforma automatizza anche l’esecuzione dei test, convertendo le vulnerabilità scoperte in misure di protezione permanenti e creando un dataset in crescita che previene la regressione.
Giskard ha sede a Parigi, Francia. Fondata nel 2021, l’azienda si è rapidamente affermata come leader nella sicurezza e nella protezione dell’AI, sostenuta dai co-fondatori di HuggingFace e Mistral. Con un team di 27 dipendenti, Giskard è dedita a fornire soluzioni di livello aziendale per il testing e la sicurezza delle applicazioni AI.
La piattaforma di Giskard è affidabile per le principali imprese tra cui AXA, Société Générale, BPCE e Michelin. Questa fiducia si basa sulla capacità della piattaforma di fornire soluzioni di sicurezza e conformità robuste su misura per le esigenze di organizzazioni su larga scala.
Giskard è anche partner di ricerca con Google DeepMind su Phare, un benchmark multilingue che valuta gli LLM su dimensioni chiave di sicurezza e protezione. L’azienda garantisce un completo isolamento e crittografia dei dati con infrastrutture ospitate nell’UE, aderendo agli standard di conformità GDPR.
