Lakera, генеративдик AI системаларын алдамчылыктан жана башка коркунучтардан коргоого арналган швейцариялык стартап, европалык венчурдук капиталдын фирмасы жетектеген А сериясындагы каражат чогултуу раундунда 20 миллион доллар чогултту. Atomico](https://atomico.com/).
ChatGPT сыяктуу белгилүү колдонмолор көрсөткөндөй, генеративдик AI көп күчкө ээ болгонуна карабастан, коопсуздук жана маалыматтардын купуялуулугу бизнес үчүн негизги көйгөйлөр бойдон калууда. Генеративдик AI чоң тил моделдери (LLM) менен иштейт, бул машиналарга текстти адамдарга окшош кылып чыгарууга жана түшүнүүгө мүмкүндүк берет. Зыяндуу чакырыктар, бирок, купуя маалыматты ачыкка чыгаруу же жеке тармактарга уруксатсыз кирүүгө уруксат берүү сыяктуу керексиз тапшырмаларды аткаруу үчүн бул моделдерди алдоо мүмкүнчүлүгүнө ээ. Lakera менен, бул өсүп жаткан "тез инъекция" тобокелдиктерин чечүү керек.
2021-жылы Цюрихте түзүлгөн, Lakera өткөн жылдын октябрында [10 миллион доллар үрөн акчасы] менен ишин баштаган (https://techcrunch.com/2023/10/12/lakera-launches-to-protect-large-language -модельдер-ден-зыяндуу-насаат/). Анын максаты ишканаларды тез инъекциялар жана маалыматтардын агып кетиши сыяктуу LLM коопсуздук кемчиликтеринен коргоо болуп саналат. Алардын технологиясы бир нече LLM менен иштейт, анын ичинде Anthropic'тен Клод, Google'дун Bard, OpenAI's GPT-X жана Meta's Llama. "Төмөнкү кечиктирилген AI колдонмолорунун брандмауэри" катары, Lakera генеративдик AI тиркемелеринин ортосунда жана ичинде байланышты камсыздай алат деп ырастайт.
Lakera компаниясынын биринчи продуктусу Lakera Guard колдонгон маалымат базасы ар кандай булактарды, анын ичинде машинаны үйрөнүүнүн ички изилдөөлөрүн, Hugging сыяктуу веб-сайттардан ачык булактуу маалымат топтомдорун колдонуу менен түзүлгөн. Face жана Gandalf деп аталган интерактивдүү оюн, ал оюнчулардын системаны жашыруун сырсөздү ачууга алдоо жөндөмүн сынайт. Бул кол салууларды классификациялаган Лакеранын "тез инъекция таксономиясы" ушул өз ара аракеттенүүлөрдүн жардамы менен иштелип чыккан.
Зыяндуу инъекцияларды тез аныктоо үчүн бизнес өзүнүн моделдерин иштеп чыгат. Көп сандаган генеративдик AI өз ара аракеттенүүсүн үзгүлтүксүз үйрөнүү менен, бул моделдер кооптуу тенденцияларды таанып, жаңы коркунучтарга ыңгайлаша алышат.
Бизнестер Lakera Guard API интеграциялоо аркылуу өздөрүн зыяндуу эскертүүлөрдөн коргой алышат. Андан тышкары, Lakera эскертүүлөрдөн жана колдонмонун натыйжаларында адепсиз сөздөр, зордук-зомбулук мазмуну, жек көрүү сөздөрү жана сексуалдык мазмун сыяктуу зыяндуу мазмунду издеген моделдерди жараткан. Алар башка кырдаалдарда да колдонулса да, бул детекторлор чатботтор сыяктуу коомчулук менен иштешкен колдонмолор үчүн өзгөчө пайдалуу. Коддун бир эле сабы менен ишканалар Lakeraнын мазмунду модерациялоо функцияларын киргизип, борборлоштурулган саясаттын башкаруу панели аркылуу белгилүү бир мазмун босогосун белгилей алышат.
Бул 20 миллион долларлык жаңы капиталы менен Lakera өзүнүн глобалдык изин, айрыкча Америка Кошмо Штаттарында көбөйтүүнү көздөп жатат. Бизнестин көрүнүктүү кардарлары Түндүк Америкада бар, мисалы, канадалык бир мүйүздүү Cohere жана америкалык AI стартапы Respell.
AI колдонмолорун коргоо SaaS провайдерлери, ири корпорациялар жана AI моделдерин камсыздоочулар тарабынан бөлүшүлгөн максат. Кызыкчылык ар түрдүү тармактардан келип чыкса да, финансылык кызмат көрсөтүүлөр бизнести эрте кабыл алуучулар жана өзгөчө коопсуздук жана талаптарды сактоо коркунучтарын билишет. Атаандаштыкка туруштук берүү үчүн, ишканалардын көпчүлүгү генеративдик интеллектти фундаменталдык бизнес операцияларына киргизүү керек экенин түшүнүшөт.
Атомикодон тышкары, Redalpine, Citi Ventures жана Dropbox компаниясынын венчурдук капиталдык бөлүмү Lakera's Series A инвестициясына катышкан.