Lakera, una startup svizzera dedita alla protezione dei sistemi di intelligenza artificiale generativa da richieste fraudolente e altri pericoli, ha raccolto 20 milioni di dollari in un round di raccolta fondi di serie A, guidato da una società europea di venture capital Atomico.
Sebbene l’intelligenza artificiale generativa abbia acquisito molta popolarità, come dimostrato da app note come ChatGPT, i problemi di sicurezza e privacy dei dati continuano a essere problemi chiave per le aziende. L’intelligenza artificiale generativa è alimentata da modelli linguistici di grandi dimensioni (LLM), che consentono alle macchine di produrre e comprendere testi in modo simile a quello degli esseri umani. I suggerimenti dannosi, tuttavia, hanno la capacità di ingannare questi modelli inducendoli a svolgere attività indesiderate, come divulgare informazioni sensibili o consentire l'accesso non autorizzato a reti private. Con Lakera, questi crescenti rischi di “iniezione tempestiva” devono essere affrontati.
Fondata nel 2021 a Zurigo, Lakera ha iniziato ad operare nell'ottobre dello scorso anno con 10 milioni di dollari in capitale iniziale. Il suo obiettivo è proteggere le aziende dalle falle di sicurezza LLM come iniezioni rapide e fughe di dati. La loro tecnologia funziona con diversi LLM, tra cui Claude di Anthropic, Bard di Google, GPT-X di OpenAI e Llama di Meta. In quanto "firewall per applicazioni AI a bassa latenza", Lakera afferma di essere in grado di proteggere la comunicazione tra e all'interno delle applicazioni AI generative.
Il database utilizzato dal primo prodotto Lakera, Lakera Guard, è stato creato utilizzando una varietà di fonti, tra cui ricerche interne sull'apprendimento automatico e set di dati open source da siti Web come Hugging Face e un gioco interattivo chiamato Gandalf che mette alla prova la capacità dei giocatori di ingannare il sistema inducendolo a rivelare una password segreta. La "tassonomia di iniezione rapida" di Lakera, che classifica questi attacchi, è stata sviluppata con l'aiuto di queste interazioni.
Per identificare rapidamente le iniezioni tempestive dannose, l'azienda sviluppa i propri modelli. Apprendendo continuamente da un gran numero di interazioni generative dell’intelligenza artificiale, questi modelli sono in grado di riconoscere tendenze pericolose e adattarsi alle nuove minacce.
Le aziende possono proteggersi da richieste dannose integrando l'API Lakera Guard. Inoltre, Lakera ha creato modelli che cercano contenuti dannosi, come parolacce, contenuti violenti, incitamento all'odio e contenuti di natura sessuale, nei prompt e negli output delle applicazioni. Sebbene vengano utilizzati anche in altre situazioni, questi rilevatori sono particolarmente utili per le app che interagiscono con il pubblico, come i chatbot. Con una sola riga di codice, le aziende possono incorporare le funzionalità di moderazione dei contenuti di Lakera e impostare soglie di contenuto specifiche tramite un pannello di controllo centralizzato delle policy.
Con questo nuovo capitale di 20 milioni di dollari, Lakera intende aumentare la propria presenza globale, in particolare negli Stati Uniti. Clienti importanti dell’azienda esistono già in Nord America, come l’unicorno canadese Cohere e la startup americana di intelligenza artificiale Respell.
La protezione delle applicazioni IA è un obiettivo condiviso dai fornitori SaaS, dalle grandi aziende e dai fornitori di modelli IA. Sebbene l’interesse provenga da diversi settori, le aziende di servizi finanziari sono le prime ad adottarle e sono particolarmente consapevoli delle minacce alla sicurezza e alla conformità. Per rimanere competitiva, la maggior parte delle aziende è consapevole di dover integrare l’intelligenza artificiale generativa nelle proprie operazioni aziendali fondamentali.
Oltre ad Atomico, Redalpine, Citi Ventures e la divisione venture capital di Dropbox hanno partecipato all'investimento di serie A di Lakera.