###### 17. September 2024



Meta hat, wie viele andere führende Technologieunternehmen, ein eigenes generatives KI-Modell namens [Llama](https://llama.meta.com/) entwickelt. Was Llama auszeichnet, ist seine Offenheit, die es Entwicklern ermöglicht, es mit großer Freiheit herunterzuladen und zu verwenden, obwohl einige Bedingungen zu beachten sind. Dieser Ansatz steht im Gegensatz zu Modellen wie Claude von Anthropic, [GPT-4o von OpenAI](https://openai.com/index/hello-gpt-4o/) (die Engine hinter [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) und Googles Gemini, die ausschließlich über APIs verfügbar sind.

Um Entwicklern mehr Flexibilität zu bieten, hat Meta mit Cloud-Dienstanbietern wie AWS, Google Cloud und Microsoft Azure zusammengearbeitet, um in der Cloud gehostete Versionen von Llama anzubieten. Darüber hinaus hat Meta Tools entwickelt, die Entwicklern den Prozess der Feinabstimmung und Anpassung des Modells an ihre spezifischen Anforderungen vereinfachen.

Nachfolgend finden Sie eine detaillierte Beschreibung von Llama, einschließlich dessen, was es kann, welche verschiedenen Versionen es bietet und wie Sie es effektiv nutzen können.

## Was ist Lama?

Lama ist nicht nur ein Modell; Es umfasst eine Reihe von Modellen, wie zum Beispiel:

- Lama 8B

- Lama 70B

- Lama 405B

Die neuesten Versionen (Llama 3.1 8B, Llama 3.1 70B und Llama 3.1 405B) wurden im Juli 2024 veröffentlicht. Diese Modelle werden auf einer Vielzahl von Datenquellen trainiert, wie zum Beispiel Webseiten in verschiedenen Sprachen, öffentlicher Code und online verfügbare Dateien und synthetische Daten, die von anderen KI-Systemen erzeugt werden.

Die Llama 3.1 8B und 70B sind kompakte Modelle, die eine Vielzahl von Geräten betreiben können, von Laptops bis hin zu Servern. Beim Llama 3.1 405B hingegen handelt es sich um ein Großmodell, das typischerweise Rechenzentrumshardware erfordert. Auch wenn die kleineren Modelle möglicherweise nicht so leistungsstark sind wie der 405B, bieten sie eine schnellere Leistung und sind für reduzierten Speicher und Latenz optimiert.

Alle Llama-Modelle verfügen über ein Kontextfenster mit 128.000 Token, sodass sie etwa 100.000 Wörter (oder 300 Textseiten) verarbeiten können. Dies entspricht ungefähr der Länge von Büchern wie „Wuthering Heights“ oder „Harry Potter und der Gefangene von Askaban“. Ein langes Kontextfenster hilft dem Modell, Informationen aus aktuellen Dokumenten und Daten zu behalten, wodurch das Risiko verringert wird, vom Thema abzuweichen.

## Was kann Lama tun?

Wie andere generative KI-Modelle kann Llama bei einer Vielzahl von Aufgaben helfen, etwa beim Codieren, beim Beantworten einfacher mathematischer Fragen und beim Zusammenfassen von Dokumenten in acht Sprachen: Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thailändisch. Es kann die meisten textbasierten Aufgaben bewältigen, etwa das Analysieren von Dateien wie PDFs und Tabellenkalkulationen, verfügt jedoch derzeit nicht über die Fähigkeit, Bilder zu generieren oder zu verarbeiten – etwas, das sich in Zukunft ändern könnte.

Lama-Modelle können in Apps, Tools und APIs von Drittanbietern integriert werden, um eine Vielzahl von Aufgaben auszuführen. Sie sind so konfiguriert, dass sie Brave Search zur Beantwortung von Fragen zu aktuellen Ereignissen, die Wolfram Alpha API für mathematische und naturwissenschaftliche Abfragen und einen Python-Interpreter zur Codevalidierung verwenden. Laut Meta kann Llama 3.1 sogar einige Tools verwenden, auf die es nicht explizit trainiert wurde, obwohl die Zuverlässigkeit dieser Funktion noch ungewiss ist.

## Wo kann man Lama verwenden?

Wenn Sie sich direkt mit Llama verbinden möchten, wird das Meta AI-Chatbot-Erlebnis auf Plattformen wie Facebook Messenger, WhatsApp, Instagram, Oculus und Meta.ai unterstützt.

Für Entwickler steht Llama zum Download bereit und kann auf mehrere gängige Cloud-Plattformen skaliert werden. Meta hat mit über 25 Unternehmen zusammengearbeitet, um Llama zu hosten, darunter Nvidia, Databricks, Groq, Dell und Snowflake. Viele dieser Partner stellen zusätzliche Tools bereit, die es Llama ermöglichen, auf proprietäre Daten zuzugreifen oder effizienter zu arbeiten.

Meta schlägt vor, die kleineren Llama-Modelle, insbesondere das 8B und das 70B, für allgemeine Zwecke wie das Ausführen von Chatbots oder das Erstellen von Code zu verwenden. Andererseits eignet sich das größere Llama 405B besser für Aufgaben wie die Modelldestillation, bei der Wissen von einem größeren Modell auf ein kleineres übertragen und synthetische Daten zum Trainieren anderer Modelle generiert werden.

Entwickler, die Anwendungen mit mehr als 700 Millionen monatlichen Nutzern betreiben, müssen von Meta eine spezielle Lizenz erwerben, um auf Llama zugreifen zu können. Die Gewährung dieser Lizenz liegt im Ermessen von Meta.

## Welche Tools bietet Meta für Llama?

Meta hat mehrere Tools eingeführt, um die Sicherheit von Llama zu verbessern:

1. **Llama Guard:** Ein Moderationsrahmen, der problematische Inhalte wie Hassreden, Selbstverletzung und Urheberrechtsverletzungen identifiziert.

2. **Prompt Guard:** Ein Tool, das speziell dafür entwickelt wurde, Llama vor schädlichen Nachrichten zu schützen, die versuchen, seine Sicherheitsmaßnahmen zu umgehen.

3. **CyberSecEval:** Eine Suite zur Bewertung von Cybersicherheitsrisiken, die die Modellsicherheit bewertet und sich dabei auf Bedrohungen wie automatisiertes Social Engineering und anstößige Cyberaktivitäten konzentriert.

Beispielsweise kann Llama Guard schädliche oder illegale Inhalte erkennen, die in Llama eingegeben oder generiert werden, sodass Entwickler anpassen können, welche Kategorien blockiert werden. Prompt Guard konzentriert sich auf die Abwehr von „Message-Injection-Angriffen“, die versuchen, das Modell zu manipulieren. CyberSecEval bietet Benchmarks zur Bewertung von Sicherheitsrisiken im Zusammenhang mit Llama-Modellen.

## Lamas Einschränkungen

Wie andere generative KI-Modelle hat auch Lama seine Grenzen und potenziellen Risiken. Eine der Hauptsorgen ist, ob Meta urheberrechtlich geschütztes Material verwendet hat, um Lama zu trainieren. In diesem Fall könnten Benutzer für alle urheberrechtlich geschützten Inhalte haftbar gemacht werden, die das Modell generiert.

Jüngste Berichte deuten darauf hin, dass Meta trotz rechtlicher Abmahnungen urheberrechtlich geschützte E-Books für das KI-Training verwendet hat. Das Unternehmen bindet auch Inhalte von Instagram und Facebook in seine Modellschulungen ein, sodass es für Nutzer schwierig ist, sich abzumelden. Meta sieht sich mehreren Klagen gegenüber, darunter einer von Autoren wie Sarah Silverman, die behaupten, das Unternehmen habe urheberrechtlich geschütztes Material ohne Erlaubnis verwendet.

Ein wichtiger Aspekt ist die Programmierung, da Llama fehlerhaften oder unsicheren Code produzieren könnte. Es ist wichtig, dass Entwickler jeden KI-generierten Code von einem menschlichen Experten überprüfen lassen, bevor sie ihn in ihre Anwendungen implementieren.

Während das Llama-Modell von Meta Entwicklern erhebliche Flexibilität und Möglichkeiten bietet, ist es wichtig, die damit verbundenen potenziellen Risiken und Einschränkungen zu erkennen.

–

_Präsentiert von der Code Labs Academy – Ihrem führenden_ [_Online Coding Bootcamp_](/) _für zukünftige Tech-Innovatoren._



###### Bildnachweis: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Was ist Meta-Lama? Ein umfassender Blick auf das offene KI-Modell für Entwickler

###### 17. September 2024

Noch als Informatikstudent an der University of Waterloo war Jacob Jackson Mitbegründer von [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS). %5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp= 159292934283\&hsa_ad =713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi _B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), ein Unternehmen für KI-Codierungsassistenten, startete seine Karriere in der KI schon früh . Im Jahr 2019, als Jackson seine Abschlussprüfungen abschloss, sammelte Tabnine etwa 60 Millionen US-Dollar an Risikokapital und wurde an Codata verkauft. Danach begann er als Praktikant bei [OpenAI](https://openai.com/) zu arbeiten, bis er 2022 die Entscheidung traf, ein neues Unternehmen zu gründen, das die Arbeitsabläufe der Entwickler verbessern sollte.

Jackson entwickelte [Supermaven](https://supermaven.com/), eine KI-Codierungsplattform, die auf seinen Erfahrungen mit Tabnine aufbaut, aber dank seiner Inspiration durch KI-Tool-Entwicklungen wie ChatGPT und GitHub Copilot erhebliche technologische Verbesserungen bietet. Babble, Supermavens hauseigenes KI-Modell, verfügt über ein Millionen-Token-Popup, mit dem es eine Menge Code auf einmal analysieren kann. Dies macht das Modell zuverlässiger bei der Erstellung präzisen Codes, da es große Eingaben verarbeiten kann, ohne aktuelle Daten zu „vergessen“ oder vom Thema abzuweichen.

Trotz der Tatsache, dass Supermaven Konkurrenten wie Googles Code Assist mit 1 Million [Tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them) übertrifft dass einige KI-Codierungsplattformen wie Magic erheblich größere Popups anbieten (Magic unterstützt 100 Millionen Token). Laut Jackson ist das Alleinstellungsmerkmal von Supermaven die reduzierte Latenz, die durch eine innovative interne neuronale Architektur ermöglicht wird. Darüber hinaus benötigt die Plattform nur 10 bis 20 Sekunden, um das Code-Repository eines Entwicklers zu verarbeiten und Codierungsregeln und APIs zu erlernen, sodass sie auch bei großen Codebasen schnell weiterlaufen kann.

Es wird erwartet, dass der Markt für KI-Codierungstools schnell wächst und bis 2032 [Prognosen zufolge] 27,17 Milliarden US-Dollar erreichen wird (https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Mehr als 1,8 Millionen GitHub Copilot-Nutzer gehören zu den vielen Entwicklern, die KI bereits in ihre Prozesse integriert haben. Doch der Sektor muss viele Hürden überwinden, insbesondere wenn es um geistiges Eigentum und Datenschutz geht. Aus Angst vor der Offenlegung der PIN scheuen viele Unternehmen den Einsatz von KI-Codierungstools. Darüber hinaus ist bekannt, dass urheberrechtlich geschützter Code in einigen Fällen von KI-Modellen wieder ausgespuckt wird, was Entwickler in rechtliche Gefahr bringt, wenn sie ihn unbewusst in ihre Arbeit einbinden. .

Jackson betonte [in einem Gespräch mit Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), dass Supermaven speichert Daten für einen kurzen Zeitraum, um die Systemleistung zu maximieren, verwendet jedoch keine Verbraucherdaten zur Erstellung seiner Modelle. Um den Kontakt mit gefährlichen Inhalten während des Trainings zu reduzieren, betonte er, dass der Schwerpunkt auf öffentlich zugänglichem Code liege, er schloss jedoch nicht vollständig aus, dass Babble an IP-geschütztem Code unterrichtet würde.

Trotz dieser Hindernisse erfreut sich Supermaven deutlich wachsender Beliebtheit: Über 35.000 Entwickler nutzen die Plattform. Seit der Gründung des Unternehmens im Februar hat sich seine Nutzerbasis verdreifacht und viele dieser Kunden schließen sich für Premium-Pläne an. Der jährliche wiederkehrende Umsatz des Unternehmens erreichte 1 Million US-Dollar.

Aufgrund des Erfolgs der Plattform nehmen die Anleger Kenntnis. Kürzlich gab Supermaven bekannt, dass das Unternehmen seine erste externe Investitionsrunde abgeschlossen und 12 Millionen US-Dollar von Angel-Investoren und Bessemer Venture Partners eingesammelt hat, zu denen auch die Mitbegründer von Perplexity und OpenAI, John Schulman und Denis Yarats, gehörten. Das Geld wird verwendet, um den Texteditor von Supermaven zu verbessern, der sich derzeit in der Betaphase befindet, und um mehr Entwickler einzustellen, um das Unternehmen auf den langfristigen Erfolg im schnell wachsenden Bereich der Computercodierung mit künstlicher Intelligenz vorzubereiten.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven erhält Investorenunterstützung: KI-Tool optimiert Entwickler-Workflows

###### 13. September 2024



Meta [aktualisiert](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) seinen Ansatz zur Kennzeichnung von Inhalten wurden von KI-Tools auf Instagram, Facebook und Threads bearbeitet oder modifiziert. Das Label „AI Insights“, das zuvor direkt unter dem Namen eines Benutzers angezeigt wurde, wird jetzt in das Beitragsmenü für Inhalte verschoben, die mithilfe von KI geändert wurden.

Das Unternehmen sagte, das Label werde weiterhin auf Inhalten erscheinen, die Meta als vollständig KI-generiert identifiziert. Während das Label bei Inhalten, die mit KI-Tools bearbeitet wurden, möglicherweise weniger sichtbar ist, ist es bei Inhalten, die vollständig mit KI-Input erstellt wurden, immer noch deutlich sichtbar.

Meta hat angekündigt, Informationen darüber bereitzustellen, ob Inhalte auf der Grundlage branchenüblicher Signale oder der Offenlegung durch Benutzer gekennzeichnet werden. Diese Änderung, die nächste Woche umgesetzt wird, zielt darauf ab, „den Umfang der in Inhalten verwendeten KI besser widerzuspiegeln“ auf allen Plattformen.

Durch die Verringerung der Bedeutung des KI-Informationsetiketts besteht die Sorge, dass Benutzer leichter von KI-bearbeiteten Inhalten getäuscht werden könnten, insbesondere da die Bearbeitungstools immer ausgefeilter werden.

Dies ist nicht das erste Mal, dass Meta die Art und Weise ändert, wie KI-bezogene Inhalte gekennzeichnet werden. Im Juli änderte das Unternehmen das Label von „Made with AI“ in „Information from AI“, nachdem es Beschwerden von Fotografen erhalten hatte, die der Meinung waren, dass das Label falsch auf echte Fotos angewendet wurde. Meta gab zu, dass der ursprüngliche Wortlaut verwirrend war und so interpretiert werden konnte, dass bestimmte Bilder vollständig KI-generiert waren, selbst wenn sie nur mit KI-Tools bearbeitet worden waren.

—

_Präsentiert von der Code Labs Academy – Ihrem führenden_ [_Online Coding Bootcamp_](/) _für zukünftige Tech-Innovatoren._



###### Bildnachweis: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta ändert die KI-Kennzeichnung auf sozialen Plattformen für bearbeitete und KI-generierte Inhalte

###### 13. September 2024

Obwohl die Meinungen darüber, ob Rajeev Beheras neues HR-Unternehmen [Every](https://www.every.io/) ein risikoreiches Unterfangen oder eine brillante Idee ist, unterschiedlich sind, schlägt das Startup Wellen. Für kleine Unternehmen integriert die All-in-One-Plattform Gehaltsabrechnung, Onboarding und Ausgabenmanagement. Dieser Markt ist bereits mit etablierten Akteuren wie Gusto, Rippling und Deel sowie aufstrebenden Unternehmen wie Mercury und Brex überfüllt. Beheras Unterstützer scheinen jedoch davon überzeugt zu sein, dass seine Strategie einzigartig ist. Kürzlich sammelte Every 22,5 Millionen US-Dollar in einer Finanzierungsrunde der Serie A unter der Leitung von Okta Ventures, Base10 Partners, Y Combinator und Redpoint Ventures.

Beheras Schwerpunkt auf Unternehmen im Frühstadium und seine unverwechselbare Angebotsstrategie zeichnen seine Vision aus. Sie alle bieten kleinen Firmen kostenlose Gründungsdienste an, richten dann Geschäftsbankkonten ein und leisten wichtige Back-Office-Unterstützung. Interchange-Gebühren und SaaS-Gebühren für zusätzliche Module wie die Buchhaltung generieren Einnahmen.

[Behera erklärte](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), dass Every fortschrittliche Tools entwickelt hat für Gehaltsabrechnung, Bankwesen und Spesenverwaltung. Um Gründer frühzeitig zu gewinnen, bieten sie jetzt kostenlose Gründungsdienste an. Nach dem Onboarding durch eine personalisierte Sitzung erhalten Startups Zugang zu einem umfassenden System, das Bankgeschäfte, Gehaltsabrechnung, Personalwesen, Buchhaltung, Steuern und staatliche Compliance abdeckt. Darüber hinaus profitieren Gründer von einem speziellen Slack-Kanal, in dem sie sich mit anderen Unternehmern vernetzen und Erkenntnisse austauschen können.

Nach Abschluss der Gründung mit Every bleiben Kunden in der Regel dabei, anstatt die Plattformen der Konkurrenz wie Rippling zu nutzen. Mit Tools, die ihr Wachstum in den ersten fünf Jahren fördern sollen, konzentriert sich Every auf Unternehmen mit weniger als 200 Mitarbeitern.

Beheras Ansatz ist insofern einzigartig, als er davon ausgeht, dass seine profitabelsten Kunden irgendwann mehr Dienstleistungen von Every benötigen werden – zumindest bis Every sich zu einem Fintech-Unternehmen in der Wachstumsphase entwickelt, das größere Unternehmen unterstützen kann.

Beheras Beziehung zu [Y Combinator](https://www.ycombinator.com/) (YC) war ein wichtiger Bestandteil der Entwicklung von Everybody. Behera, ein erfahrener Unternehmer, nutzte das Accelerator-Netzwerk und alle waren Teil der YC-Kohorte Sommer 2023. Reflektive, sein früheres Geschäftsunternehmen, wurde 2021 nach einer Kapitalerhöhung von mehr als 100 Millionen US-Dollar gekauft. Darüber hinaus ist seine Frau, YC-Beraterin Surbhi Sarna, ebenfalls eine erfolgreiche Unternehmerin. Aus diesem Grund kam etwa die Hälfte der Kundschaft von Every über das umfangreiche Startup-Netzwerk von YC.

Obwohl Rippling, Gusto und Deel – drei weitere von YC unterstützte Startups – mit ihnen konkurrieren, sind die engen Verbindungen von Every zum YC-Ökosystem ein erheblicher Vorteil. Dies hat neben Beheras praktischem Ansatz bei der Entwicklung der Plattformkomponenten von Grund auf Investoren angezogen.

Behera stellte mehr Personal ein, nachdem es persönlich den Kundenverkauf, den Support und das Produktdesign für die ersten 50 Kunden des Unternehmens überwacht hatte, mit Hilfe von Alex Bard von Redpoint, der die Finanzierungsrunde der Serie A überwachte. Nachdem sie begeisterte Erfahrungsberichte von Firmen gelesen hatten, die Every bereits nutzten, taten andere Risikokapitalgeber dasselbe.

In weniger als zwei Wochen war das Geld der Serie A gesichert, ohne dass Behera aktiv nach neuen Investoren suchte. Obwohl der Wert des Unternehmens nicht veröffentlicht wurde, wird er auf 112,5 Millionen US-Dollar geschätzt. Die zusätzlichen Mittel werden zur Unterstützung der kostenlosen Gründungs- und Onboarding-Dienste verwendet, die den frühen Erfolg von Every vorantreiben, sowie zur Vergrößerung des Ingenieurpersonals, das mittlerweile etwa 20 Personen umfasst.

thumbnail_mimi-thian-vdXMSiX-n6M-unsplash (1) (1).webp

mimi-thian-vdXMSiX-n6M-unsplash (1) (1).webp

Das HR-Startup Every sichert sich eine Serie-A-Finanzierung in Höhe von 22,5 Millionen US-Dollar und erweitert sein Engineering-Team in nur zwei Wochen