###### 17 сентября 2024 г.



Meta, как и многие другие ведущие технологические компании, разработала собственную модель генеративного искусственного интеллекта, известную как [Llama](https://llama.meta.com/). Что отличает Llama, так это ее открытость, позволяющая разработчикам загружать и использовать ее со значительной свободой, хотя есть некоторые условия, которые следует учитывать. Этот подход контрастирует с такими моделями, как Claude от Anthropic, [GPT-4o от OpenAI](https://openai.com/index/hello-gpt-4o/) (движок [ChatGPT](/news/ai-at-your-Fingertips-chatgpt-app-now-available-for-mac-02-07-2024)), а также Gemini от Google, которые доступны исключительно через API.

Чтобы предоставить разработчикам больше гибкости, Meta заключила партнерские отношения с поставщиками облачных услуг, такими как AWS, Google Cloud и Microsoft Azure, чтобы предложить облачные версии Llama. Кроме того, Meta создала инструменты, которые упрощают разработчикам процесс точной настройки и адаптации модели в соответствии с их конкретными требованиями.

Ниже приведено подробное описание Llama, в том числе ее возможности, различные версии, которые она предлагает, и способы ее эффективного использования.

## Что такое Лама?

Лама — это не просто одна из моделей; он включает в себя ряд моделей, таких как:

- Лама 8Б

- Лама 70Б

- Лама 405Б

Самые последние версии (Llama 3.1 8B, Llama 3.1 70B и Llama 3.1 405B) были выпущены в июле 2024 года. Эти модели обучаются на широком спектре источников данных, таких как веб-страницы на разных языках, общедоступный код, файлы, доступные в Интернете. и синтетические данные, созданные другими системами искусственного интеллекта.

Llama 3.1 8B и 70B — компактные модели, которые могут работать с различными устройствами, от ноутбуков до серверов. С другой стороны, Llama 3.1 405B — это крупномасштабная модель, для которой обычно требуется оборудование центра обработки данных. Хотя модели меньшего размера могут быть не такими мощными, как 405B, они обеспечивают более высокую производительность и оптимизированы для уменьшения объема памяти и задержки.

Все модели Llama имеют контекстное окно на 128 000 токенов, что позволяет им обрабатывать около 100 000 слов (или 300 страниц текста). Это примерно столько же, сколько такие книги, как «Грозовой перевал» или «Гарри Поттер и узник Азкабана». Длинное контекстное окно помогает модели сохранять информацию из последних документов и данных, снижая риск отклонения от темы.

## Что может лама?

Как и другие модели генеративного искусственного интеллекта, Llama может помочь с различными задачами, такими как программирование, ответы на простые математические вопросы и обобщение документов на восьми языках: английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском. Он может выполнять большинство текстовых задач, таких как анализ файлов, таких как PDF-файлы и электронные таблицы, но в настоящее время он не имеет возможности генерировать или обрабатывать изображения — это может измениться в будущем.

Модели Llama могут интегрироваться со сторонними приложениями, инструментами и API для выполнения различных задач. Они настроены на использование Brave Search для ответа на вопросы о текущих событиях, API Wolfram Alpha для математических и научных запросов и интерпретатор Python для проверки кода. По данным Meta, Llama 3.1 может даже использовать некоторые инструменты, которым она не была специально обучена, хотя надежность этой функции все еще сомнительна.

## Где можно использовать ламу?

Если вы хотите напрямую подключиться к Llama, чат-бот Meta AI поддерживается на таких платформах, как Facebook Messenger, WhatsApp, Instagram, Oculus и Meta.ai.

Разработчикам Llama доступна для скачивания и масштабируется на несколько популярных облачных платформ. Meta заключила партнерские отношения с более чем 25 компаниями для размещения Llama, включая Nvidia, Databricks, Groq, Dell и Snowflake. Многие из этих партнеров предоставляют дополнительные инструменты, которые позволяют Llama получать доступ к собственным данным или работать более эффективно.

Meta предлагает использовать модели Llama меньшего размера, в частности 8B и 70B, для общих целей, таких как запуск чат-ботов или создание кода. С другой стороны, более крупный Llama 405B больше подходит для таких задач, как дистилляция модели, которая предполагает передачу знаний от более крупной модели к меньшей, а также генерацию синтетических данных для обучения других моделей.

Разработчики приложений с более чем 700 миллионами пользователей в месяц должны приобрести у Meta специальную лицензию для доступа к Llama, и она будет предоставлена ​​по усмотрению Meta.

## Какие инструменты предлагает Meta для Llama?

Meta представила несколько инструментов для повышения безопасности Llama:

1. **Llama Guard:** система модерации, которая выявляет проблемный контент, например разжигание ненависти, членовредительство и нарушение авторских прав.

2. **Prompt Guard:** инструмент, специально разработанный для защиты Llama от вредоносных сообщений, пытающихся обойти ее меры безопасности.

3. **CyberSecEval:** пакет оценки рисков кибербезопасности, который оценивает безопасность модели, уделяя особое внимание таким угрозам, как автоматизированная социальная инженерия и наступательные кибердействия.

Например, Llama Guard может обнаруживать вредоносный или незаконный контент, который вводится или создается в Llama, что позволяет разработчикам настраивать, какие категории блокируются. Prompt Guard фокусируется на защите от «атак путем внедрения сообщений», которые пытаются манипулировать моделью. CyberSecEval предлагает тесты для оценки рисков безопасности, связанных с моделями Llama.

## Ограничения ламы

У ламы, как и у других моделей генеративного ИИ, есть свои ограничения и потенциальные риски. Одна из главных проблем заключается в том, использовала ли Мета материалы, защищенные авторским правом, для обучения ламы. В этом случае пользователи могут столкнуться с ответственностью за любой контент, защищенный авторским правом, который генерирует модель.

Недавние сообщения показывают, что Meta использует защищенные авторским правом электронные книги для обучения ИИ, несмотря на получение юридических предупреждений. Компания также включает в обучение моделей контент из Instagram и Facebook, что затрудняет отказ пользователей от участия. Meta сталкивается с несколькими судебными исками, в том числе со стороны таких авторов, как Сара Сильверман, которые утверждают, что компания без разрешения использовала материалы, защищенные авторским правом.

Важным моментом является программирование, поскольку Llama может создавать ошибочный или небезопасный код. Очень важно, чтобы разработчики проверяли любой код, созданный ИИ, перед внедрением его в свои приложения.

Хотя модель Llama от Meta предлагает значительную гибкость и возможности для разработчиков, важно осознавать потенциальные риски и ограничения, которые с ней связаны.

–

_Предоставлено вам Code Labs Academy – Your Leading_ [_Онлайн-курс по программированию_](/) _для будущих технических новаторов._



###### Авторы изображений: Мета

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Что такое Мета Лама? Комплексный взгляд на модель открытого ИИ для разработчиков

###### 17 сентября 2024 г.

Еще будучи студентом информатики в Университете Ватерлоо, Джейкоб Джексон стал соучредителем [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), компания, занимающаяся программированием искусственного интеллекта, рано начала свою карьеру в области искусственного интеллекта. . В 2019 году, когда Джексон заканчивал выпускные экзамены, Табнайн привлек около 60 миллионов долларов венчурного капитала и был продан Codata. После этого он начал работать стажером в [OpenAI](https://openai.com/) до 2022 года, когда принял решение основать новую компанию, которая улучшит рабочие процессы разработчиков.

Джексон разработал [Supermaven](https://supermaven.com/), платформу для кодирования искусственного интеллекта, которая расширяет его опыт работы с Tabnine, но содержит значительные технологические усовершенствования благодаря его вдохновению от разработок инструментов искусственного интеллекта, таких как ChatGPT и GitHub Copilot. Babble, собственная модель искусственного интеллекта Supermaven, имеет всплывающее окно с миллионом токенов, которое позволяет анализировать большой объем кода одновременно. Это делает модель более надежной в создании точного кода, позволяя ей обрабатывать большие входные данные, не «забывая» последние данные и не отклоняясь от темы.

Supermaven соответствует конкурентам, таким как Code Assist от Google, с 1 миллионом [токенов](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), несмотря на то, что что некоторые платформы ИИ-кодирования, такие как Magic, предлагают значительно большие всплывающие окна (Magic поддерживает 100 миллионов токенов). По словам Джексона, уникальной особенностью Supermaven является уменьшенная задержка, которая стала возможной благодаря инновационной внутренней нейронной архитектуре. Кроме того, платформе требуется всего 10–20 секунд для обработки репозитория кода разработчика, изучения правил кодирования и API, поэтому она может продолжать быстро работать даже с большими базами кода.

Ожидается, что рынок инструментов ИИ-кодирования будет быстро расти и к 2032 году достигнет $27,17 млрд, [согласно прогнозам](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Более 1,8 миллиона пользователей GitHub Copilot входят в число многих разработчиков, которые уже интегрировали ИИ в свои процессы. Однако этому сектору предстоит преодолеть множество препятствий, особенно когда речь идет об интеллектуальной собственности и конфиденциальности данных. Боясь раскрытия PIN-кода, многие компании не решаются использовать инструменты кодирования с использованием искусственного интеллекта. Кроме того, известно, что в некоторых случаях модели искусственного интеллекта извергают код, защищенный авторским правом, что подвергает разработчиков юридической опасности, если они включают его в свою работу, не осознавая этого. .

Джексон подчеркнул [в разговоре с Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), что, хотя Supermaven сохраняет данные в течение короткого периода времени, чтобы максимизировать производительность системы, и не использует потребительские данные для построения своих моделей. Снижая воздействие опасного контента во время обучения, он подчеркнул, что основное внимание уделяется общедоступному коду, но не исключил полностью возможности обучения Babble на коде, защищенном IP.

Несмотря на эти препятствия, популярность Supermaven значительно выросла: платформу используют более 35 000 разработчиков. С момента запуска компании в феврале ее пользовательская база утроилась, и многие из этих клиентов подписываются на премиальные планы. Годовой регулярный доход компании достиг 1 миллиона долларов.

Благодаря успеху платформы инвесторы обращают на это внимание. Недавно Supermaven сообщила, что компания завершила свой первый раунд внешних инвестиций, привлекая 12 миллионов долларов от инвесторов-ангелов и Bessemer Venture Partners, в число которых входили соучредители Perplexity и OpenAI Джон Шульман и Денис Ярац. Деньги будут использованы для улучшения текстового редактора Supermaven, который в настоящее время находится в стадии бета-тестирования, а также для найма большего количества разработчиков, что обеспечит компании долгосрочный успех в быстрорастущей области компьютерного кодирования ИИ.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven получает поддержку инвесторов: инструмент искусственного интеллекта, оптимизирующий рабочие процессы разработчиков

###### 13 сентября 2024 г.



Мета — это [обновление](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) своего подхода к маркировке контента, который были отредактированы или изменены с помощью инструментов искусственного интеллекта в Instagram, Facebook и Threads. Ярлык «AI Insights», который раньше появлялся непосредственно под именем пользователя, теперь переместится в меню сообщений для контента, измененного с помощью AI.

Компания заявила, что этот ярлык будет продолжать появляться на контенте, который Meta определяет как полностью созданный искусственным интеллектом. Хотя метка может быть менее заметной на контенте, отредактированном с помощью инструментов искусственного интеллекта, она все равно будет хорошо видна на контенте, полностью созданном с использованием данных искусственного интеллекта.

Meta объявила, что будет предлагать информацию о том, маркируется ли контент на основе сигналов отраслевых стандартов или раскрытия информации пользователями. Это изменение, которое будет реализовано на следующей неделе, направлено на то, чтобы «лучше отразить масштабы ИИ, используемого в контенте» на всех платформах.

Уменьшая известность информационного ярлыка ИИ, возникают опасения, что пользователей будет легче обмануть контентом, отредактированным ИИ, особенно по мере того, как инструменты редактирования становятся все более изощренными.

Это не первый раз, когда Meta меняет способ маркировки контента, связанного с ИИ. В июле компания сменила ярлык с «Сделано с помощью ИИ» на «Информация от ИИ» после получения жалоб от фотографов, которые считали, что ярлык неправильно наносится на реальные фотографии. Мета признала, что первоначальная формулировка сбивает с толку и может быть истолкована как означающая, что некоторые изображения были полностью созданы искусственным интеллектом, даже если они были отредактированы только с помощью инструментов искусственного интеллекта.

—

_Предоставлено вам Code Labs Academy – Your Leading_ [_Онлайн-курс по программированию_](/) _для будущих технических новаторов._



###### Авторы изображений: Мета

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Мета-изменения ИИ-маркировки на социальных платформах для отредактированного и созданного с помощью ИИ контента

###### 13 сентября 2024 г.

Хотя мнения о том, является ли новая HR-фирма Раджива Бехеры [Every](https://www.every.io/) рискованным предприятием или блестящей идеей, разнятся, стартап производит фурор. Для небольших фирм универсальная платформа объединяет расчет заработной платы, адаптацию и управление расходами. Этот рынок уже переполнен авторитетными игроками, такими как Gusto, Rippling и Deel, а также многообещающими компаниями, такими как Mercury и Brex. Однако сторонники Бехеры, похоже, уверены, что его стратегия уникальна. Недавно Every привлек $22,5 млн в раунде сбора средств серии A, возглавляемом Okta Ventures, Base10 Partners, Y Combinator и Redpoint Ventures.

Акцент Бехеры на фирмах на ранней стадии развития и особая стратегия предложения – вот что отличает его видение. Every предоставляет бесплатные услуги по регистрации небольшим фирмам, а затем открывает коммерческие банковские счета и обеспечивает важную поддержку бэк-офиса. Плата за обмен и плата за SaaS за дополнительные модули, такие как бухгалтерский учет, приносят доход.

[Бехера объяснила](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), что Every разработал передовые инструменты для расчета заработной платы, банковского дела и управления расходами. Чтобы привлечь основателей на раннем этапе, они теперь предлагают бесплатные услуги по регистрации. После прохождения персонализированного сеанса стартапы получают доступ к комплексной системе, охватывающей банковское дело, расчет заработной платы, управление персоналом, бухгалтерский учет, налоги и соблюдение требований государственного регулирования. Кроме того, основатели получают выгоду от специального канала Slack, где они могут общаться и делиться идеями с другими предпринимателями.

После регистрации с помощью Every клиенты обычно придерживаются его, а не используют платформы конкурентов, такие как Rippling. Используя инструменты, предназначенные для содействия их росту в течение первых пяти лет, Every концентрируется на компаниях со штатом менее 200 человек.

Подход Бехеры уникален тем, что он ожидает, что его наиболее прибыльным клиентам в конечном итоге потребуется больше услуг от Every — по крайней мере, до тех пор, пока Every не превратится в финтех-компанию на стадии роста, которая может помочь более крупным компаниям.

Отношения Бехеры с [Y Combinator](https://www.ycombinator.com/) (YC) стали жизненно важным компонентом развития Everything. Бехера, опытный предприниматель, воспользовался сетью акселератора, и каждый стал частью когорты YC Summer 2023. Reflektive, его предыдущее предприятие, было куплено в 2021 году после привлечения капитала на сумму более 100 миллионов долларов. Кроме того, советник YC Сурбхи Сарна, его жена, также является успешным предпринимателем. По этой причине около половины клиентов Every пришли через обширную сеть стартапов YC.

Несмотря на то, что Rippling, Gusto и Deel — три других стартапа, поддерживаемых YC, — конкурируют с ними, тесные связи Every с экосистемой YC являются значительным преимуществом. Это привлекло инвесторов, а также практический подход Бехеры к созданию компонентов платформы с нуля.

Бехера нанял больше сотрудников после того, как лично курировал продажи, поддержку и дизайн продуктов для первых 50 клиентов бизнеса с помощью Алекса Барда из Redpoint, который курировал раунд сбора средств серии А. Прочитав восторженные отзывы фирм, которые уже использовали Every, другие венчурные капиталисты сделали то же самое.

Менее чем за две недели деньги серии А были получены без активного поиска новых инвесторов Бехерой. Хотя стоимость компании не разглашается, по оценкам, она составляет 112,5 миллиона долларов. Дополнительное финансирование будет использовано для поддержки бесплатных услуг по регистрации и адаптации, которые способствовали раннему успеху Every, а также для роста инженерного персонала, который сейчас насчитывает около 20 человек.

Что такое Мета Лама? Комплексный взгляд на модель открытого ИИ для разработчиков

Supermaven получает поддержку инвесторов: инструмент искусственного интеллекта, оптимизирующий рабочие процессы разработчиков

Мета-изменения ИИ-маркировки на социальных платформах для отредактированного и созданного с помощью ИИ контента

HR-стартап Every получил финансирование серии А на сумму 22,5 миллиона долларов и расширил команду инженеров всего за две недели