Lakera, AI sorkuntzako sistemak iruzurrezko abisuetatik eta beste arrisku batzuetatik babesten diharduen Suitzako startup batek, 20 milioi dolar bildu ditu A serieko funts-bilketa batean, arrisku-kapitaleko Europako enpresak zuzenduta. Atomico](https://atomico.com/).
Sorkuntzako IAk indar handia lortu badu ere —ChatGPT bezalako aplikazio ezagunek frogatu dutenez— segurtasun eta datuen pribatutasun kezkak enpresentzako funtsezko arazoak izaten jarraitzen dute. Sorkuntza AI hizkuntza eredu handiek (LLM) bultzatzen dute, eta horri esker makinek testua ekoitzi eta uler dezakete gizakien antzeko moduan. Galdeketa gaiztoek, ordea, modelo hauek engainatzeko gaitasuna dute nahi ez diren zereginak egitera, adibidez, informazio sentikorra ezagutzera ematea edo baimenik gabe sare pribatuetara sartzea baimentzea. Lakerarekin, gero eta handiagoa den "injekzio berehalako" arrisku horiei aurre egin behar zaie.
2021ean Zurichen ezarrita, Lakera iazko urrian hasi zen lanean 10 milioi dolar hazitako diruarekin -models-from-malicious-prompts/). Bere helburua enpresak LLM segurtasun akatsen aurka babestea da, adibidez, injekzio azkarrak eta datu-ihesak. Haien teknologiak hainbat LLMrekin funtzionatzen du, besteak beste, Anthropic-eko Claude, Google-ren Bard, OpenAI-ren GPT-X eta Meta-ren Llama. "Latentzia baxuko AI aplikazioen suebakia" gisa, Lakerak dio AI sorkuntzako aplikazioen arteko komunikazioa ziurtatzeko gai dela.
Lakeraren lehen produktuak, Lakera Guard erabilitako datu-basea hainbat iturri erabiliz sortu zen, barneko ikaskuntza automatikoaren ikerketa barne, Hugging bezalako webguneetako kode irekiko datu multzoak barne. Aurpegia, eta Gandalf izeneko joko interaktiboa probatzen du jokalariek sistema engainatzeko pasahitz sekretua ezagutzera emateko duten gaitasuna. Eraso hauek sailkatzen dituen Lakeraren "injekzio azkarreko taxonomia" elkarrekintza horien laguntzarekin garatu zen.
Injekzio gaiztoak azkar identifikatzeko, negozioak bere ereduak garatzen ditu. Sorkuntzako AI interakzio ugarietatik etengabe ikasiz, eredu hauek gai dira joera arriskutsuak ezagutzeko eta mehatxu berrietara egokitzeko.
Enpresek abisu kaltegarrietatik babestu ditzakete Lakera Guard APIa integratuz. Gainera, Lakerak eduki kaltegarriak bilatzen dituzten ereduak sortu ditu, hala nola, profanak, indarkeriazko edukiak, gorrotozko diskurtsoak eta sexu edukiak, galderetan eta aplikazioen irteeran. Beste egoera batzuetan ere erabiltzen badira ere, detektagailu hauek bereziki lagungarriak dira publikoarekin elkarreragiten duten aplikazioetarako, hala nola txat-botetarako. Kode-lerro bakarrarekin, enpresek Lakeraren edukia moderatzeko funtzioak txerta ditzakete eta edukien atalase zehatzak ezarri ditzakete politika zentralizatuen kontrol-panel baten bidez.
20 milioi dolarreko kapital berri honekin, Lakerak bere aztarna globala handitzeko asmoa du, batez ere Estatu Batuetan. Ipar Amerikan dagoeneko existitzen dira negozioaren bezero nabarmenak, hala nola Kanadako unicorn Cohere eta AI Amerikako Respell startup-a.
AI aplikazioak ziurtatzea SaaS hornitzaileek, korporazio handiek eta AI ereduen hornitzaileek partekatzen duten helburua da. Interesa hainbat industriatakoa bada ere, finantza-zerbitzuen negozioak lehen aldiz hartzen dira eta bereziki jabetzen dira segurtasun eta betetze mehatxuez. Lehiakorra izaten jarraitzeko, negozio gehienek ulertzen dute sorkuntza-IA integratu behar dutela beren oinarrizko negozio-eragiketetan.
Atomicoz gain, Redalpine, Citi Ventures eta Dropbox-en arrisku-kapitaleko dibisioak parte hartu zuten Lakeraren A Serieko inbertsioan.