Η Lakera, μια ελβετική startup αφιερωμένη στην προστασία των παραγωγικών συστημάτων τεχνητής νοημοσύνης από δόλιες προτροπές και άλλους κινδύνους, συγκέντρωσε 20 εκατομμύρια δολάρια σε έναν γύρο συγκέντρωσης κεφαλαίων της σειράς Α, με επικεφαλής την ευρωπαϊκή εταιρεία επιχειρηματικών κεφαλαίων Atomico.
Αν και η γενετική τεχνητή νοημοσύνη έχει αποκτήσει μεγάλη έλξη—όπως αποδεικνύεται από γνωστές εφαρμογές όπως το ChatGPT—οι ανησυχίες σχετικά με την ασφάλεια και το απόρρητο των δεδομένων εξακολουθούν να αποτελούν βασικά προβλήματα για τις επιχειρήσεις. Το Generative AI τροφοδοτείται από μεγάλα γλωσσικά μοντέλα (LLM), τα οποία επιτρέπουν στις μηχανές να παράγουν και να κατανοούν κείμενο με τρόπο παρόμοιο με αυτόν των ανθρώπων. Τα κακόβουλα μηνύματα, ωστόσο, έχουν τη δυνατότητα να εξαπατήσουν αυτά τα μοντέλα για να εκτελέσουν ανεπιθύμητες εργασίες, όπως η αποκάλυψη ευαίσθητων πληροφοριών ή η μη εξουσιοδοτημένη πρόσβαση σε ιδιωτικά δίκτυα. Με τη Lakera, πρέπει να αντιμετωπιστούν αυτοί οι αυξανόμενοι κίνδυνοι "γρήγορης ένεσης".
Έχοντας ιδρυθεί το 2021 στη Ζυρίχη, η Lakera ξεκίνησε τις δραστηριότητές της τον Οκτώβριο του περασμένου έτους με 10 εκατομμύρια δολάρια σε χρήματα. Στόχος του είναι να προστατεύσει τις επιχειρήσεις από ελαττώματα ασφαλείας LLM, όπως οι γρήγορες ενέσεις και οι διαρροές δεδομένων. Η τεχνολογία τους συνεργάζεται με πολλούς LLM, όπως ο Claude από το Anthropic, ο Bard της Google, το GPT-X του OpenAI και ο Llama του Meta. Ως "τείχος προστασίας εφαρμογών τεχνητής νοημοσύνης χαμηλής καθυστέρησης", η Lakera ισχυρίζεται ότι είναι σε θέση να ασφαλίσει την επικοινωνία μεταξύ και εντός εφαρμογών τεχνητής νοημοσύνης.
Η βάση δεδομένων που χρησιμοποιήθηκε από το πρώτο προϊόν της Lakera, Lakera Guard, δημιουργήθηκε χρησιμοποιώντας μια ποικιλία πηγών, συμπεριλαμβανομένης της εσωτερικής έρευνας μηχανικής μάθησης, συνόλων δεδομένων ανοιχτού κώδικα από ιστότοπους όπως το Hugging Face και ένα διαδραστικό παιχνίδι που ονομάζεται Gandalf που δοκιμάζει την ικανότητα των παικτών να ξεγελάσουν το σύστημα ώστε να αποκαλύψει έναν μυστικό κωδικό πρόσβασης. Η "ταξονομία άμεσης έγχυσης" του Lakera, η οποία ταξινομεί αυτές τις επιθέσεις, αναπτύχθηκε με τη βοήθεια αυτών των αλληλεπιδράσεων.
Προκειμένου να εντοπίζονται γρήγορα κακόβουλες έγκαιρες ενέσεις, η επιχείρηση αναπτύσσει τα δικά της μοντέλα. Με τη συνεχή μάθηση από έναν μεγάλο αριθμό παραγωγικών αλληλεπιδράσεων τεχνητής νοημοσύνης, αυτά τα μοντέλα είναι σε θέση να αναγνωρίζουν επικίνδυνες τάσεις και να προσαρμόζονται σε νέες απειλές.
Οι επιχειρήσεις μπορούν να προστατευτούν από επιβλαβείς προτροπές ενσωματώνοντας το Lakera Guard API. Επιπλέον, η Lakera έχει δημιουργήσει μοντέλα που αναζητούν επιβλαβές περιεχόμενο, όπως βωμολοχίες, βίαιο περιεχόμενο, ρητορική μίσους και σεξουαλικό περιεχόμενο, στα μηνύματα προτροπής και στα αποτελέσματα εφαρμογών. Αν και χρησιμοποιούνται και σε άλλες περιπτώσεις, αυτοί οι ανιχνευτές είναι ιδιαίτερα χρήσιμοι για εφαρμογές που αλληλεπιδρούν με το κοινό, όπως τα chatbots. Με μία μόνο γραμμή κώδικα, οι επιχειρήσεις μπορούν να ενσωματώσουν τις λειτουργίες εποπτείας περιεχομένου της Lakera και να ορίσουν συγκεκριμένα όρια περιεχομένου μέσω ενός κεντρικού πίνακα ελέγχου πολιτικής.
Με αυτό το νέο κεφάλαιο των 20 εκατομμυρίων δολαρίων, η Lakera σκοπεύει να αυξήσει το παγκόσμιο αποτύπωμά της, ιδιαίτερα στις Ηνωμένες Πολιτείες. Αξιοσημείωτοι πελάτες της επιχείρησης υπάρχουν ήδη στη Βόρεια Αμερική, όπως ο καναδικός μονόκερος Cohere και η αμερικανική startup τεχνητής νοημοσύνης Respell.
Η ασφάλεια των εφαρμογών τεχνητής νοημοσύνης είναι ένας κοινός στόχος μεταξύ των παρόχων SaaS, των μεγάλων εταιρειών και των παρόχων μοντέλων τεχνητής νοημοσύνης. Παρόλο που το ενδιαφέρον προέρχεται από διάφορους κλάδους, οι επιχειρήσεις χρηματοοικονομικών υπηρεσιών υιοθετούν πρώιμες θέσεις και γνωρίζουν ιδιαίτερα τις απειλές ασφάλειας και συμμόρφωσης. Για να παραμείνουν ανταγωνιστικές, η πλειονότητα των επιχειρήσεων κατανοεί ότι πρέπει να ενσωματώσουν τη γενετική τεχνητή νοημοσύνη στις θεμελιώδεις επιχειρηματικές τους δραστηριότητες.
Εκτός από την Atomico, η Redalpine, η Citi Ventures και το τμήμα επιχειρηματικών κεφαλαίων της Dropbox συμμετείχαν στην επένδυση της σειράς A της Lakera.