Lakera, isang Swiss startup na nakatuon sa pagprotekta sa mga generative AI system mula sa mga mapanlinlang na senyas at iba pang mga panganib, ay nakalikom ng $20 milyon sa isang Series A fundraising round, na pinamumunuan ng European venture capital firm Atomico.
Bagama't nakakuha ng maraming traksyon ang generative AI—tulad ng ipinakita ng mga kilalang app tulad ng ChatGPT—ang mga alalahanin sa seguridad at privacy ng data ay patuloy na pangunahing problema para sa mga negosyo. Ang Generative AI ay pinapagana ng mga malalaking modelo ng wika (LLM), na nagpapahintulot sa mga makina na gumawa at umintindi ng teksto sa paraang katulad ng sa mga tao. Ang mga nakakahamak na prompt, gayunpaman, ay may kakayahang linlangin ang mga modelong ito sa pagsasagawa ng mga hindi gustong gawain, tulad ng pagsisiwalat ng sensitibong impormasyon o pagpapahintulot sa hindi awtorisadong pag-access sa mga pribadong network. Sa Lakera, ang mga dumaraming panganib na "maagap na iniksyon" ay dapat matugunan.
Dahil naitatag noong 2021 sa Zurich, nagsimula ang mga operasyon ng Lakera noong Oktubre ng nakaraang taon gamit ang $10 milyon na seed money. Ang layunin nito ay protektahan ang mga negosyo laban sa mga kakulangan sa seguridad ng LLM tulad ng mabilis na pag-iniksyon at pagtagas ng data. Gumagana ang kanilang teknolohiya sa ilang LLM, kabilang ang bilang si Claude mula sa Anthropic, Bard ng Google, GPT-X ng OpenAI, at Llama ng Meta. Bilang isang "low-latency AI application firewall," inaangkin ni Lakera na nakakapag-secure ng komunikasyon sa pagitan at sa loob ng mga generative AI application.
Ang database na ginamit ng unang produkto ng Lakera, Lakera Guard, ay ginawa gamit ang iba't ibang source, kabilang ang internal machine learning research, open-source dataset mula sa mga website tulad ng Hugging Face, at isang interactive na laro na tinatawag na Gandalf na sumusubok sa kakayahan ng mga manlalaro na linlangin ang system sa pagsisiwalat ng isang lihim na password. Ang "prompt injection taxonomy" ng Lakera, na nag-uuri sa mga pag-atake na ito, ay binuo sa tulong ng mga pakikipag-ugnayang ito.
Upang mabilis na matukoy ang mga nakakahamak na prompt injection, ang negosyo ay bumuo ng sarili nitong mga modelo. Sa pamamagitan ng patuloy na pag-aaral mula sa isang malaking bilang ng mga generative na pakikipag-ugnayan ng AI, nakikilala ng mga modelong ito ang mga mapanganib na ugali at nakakaangkop sa mga bagong banta.
Maaaring pangalagaan ng mga negosyo ang kanilang sarili mula sa mga nakakapinsalang senyas sa pamamagitan ng pagsasama ng Lakera Guard API. Higit pa rito, gumawa ang Lakera ng mga modelong naghahanap ng mapaminsalang content, tulad ng mga kabastusan, marahas na content, mapoot na salita, at sekswal na nilalaman, sa mga senyas at mga output ng aplikasyon. Bagama't ginagamit din ang mga ito sa ibang mga sitwasyon, ang mga detector na ito ay partikular na nakakatulong para sa mga app na nakikipag-ugnayan sa publiko, gaya ng mga chatbot. Sa isang linya lang ng code, maaaring isama ng mga negosyo ang mga feature ng pagmo-moderate ng nilalaman ng Lakera at magtakda ng mga partikular na threshold ng nilalaman sa pamamagitan ng isang sentralisadong control panel ng patakaran.
Sa bagong kapital na ito na $20 milyon, nilalayon ng Lakera na dagdagan ang pandaigdigang yapak nito, partikular sa Estados Unidos. Ang mga kilalang kliyente ng negosyo ay umiiral na sa North America, tulad ng Canadian unicorn na Cohere at ang American AI startup Respell.
Ang pag-secure ng mga AI application ay isang layuning ibinabahagi ng mga SaaS provider, malalaking korporasyon, at provider ng mga modelo ng AI. Bagama't ang interes ay nagmumula sa iba't ibang industriya, ang mga negosyong serbisyo sa pananalapi ay maagang nag-aampon at partikular na alam ang mga banta sa seguridad at pagsunod. Upang manatiling mapagkumpitensya, naiintindihan ng karamihan ng mga negosyo na dapat nilang isama ang generative AI sa kanilang mga pangunahing operasyon sa negosyo.
Bilang karagdagan sa Atomico, ang Redalpine, Citi Ventures, at ang venture capital division ng Dropbox ay lumahok sa pamumuhunan ng Series A ng Lakera.