Llama

Что такое Llama?

Llama — семейство больших языковых моделей от Meta, которое публикуют в виде скачиваемых весов, а не продают как сервис. Их можно запустить на своём железе, дообучить на своих данных и развернуть, никого об этом не уведомляя. Именно Llama больше, чем что-либо другое, превратила запуск серьёзного ИИ на месте из исследовательской диковины в то, что человек может сделать на ноутбуке.

На ней же построено и большинство остального. Огромная доля дообученных, квантованных и узкоспециальных моделей, ходящих по открытой экосистеме, начиналась именно здесь, а значительная часть инструментов для локального инференса существует потому, что Llama дала им что запускать.

И есть одна вещь, которая стабильно удивляет людей, причём не техническая. Llama бесплатна, но это не открытый исходный код. У этого различия есть реальные последствия, и разобраться в них стоит до того, как строить на этом компанию.

Куда делось название

Стоит знать, прежде чем идти искать: llama.com теперь перенаправляет на сайт для разработчиков Meta, а новейшие модели компании носят совсем другое имя. Нынешняя линейка называется Muse — агентная модель с упором на программирование, парный к ней многоагентный терминальный инструмент и компактная открытая модель, рассчитанная на локальных агентов на одной потребительской видеокарте. Рядом с ними есть самообслуживаемый Meta Model API, совместимый с клиентами в стиле OpenAI.

Сама Llama никуда не делась. Llama 3 и Llama 4 остаются задокументированными и доступными для скачивания, а гигантская установленная база развёртываний и производных моделей никак не затронута. Но если вы сегодня выбираете модель Meta, а не поддерживаете существующую, то самое свежее происходит под именем Muse, и традиция открытых весов продолжается там, а не под старым названием.

Что на самом деле даёт Llama 4

Нынешнее поколение Llama мультимодально изначально — текст и зрение обучались вместе, а не прикручивались друг к другу — и выпущено в двух вариантах.

Scout — ставка на эффективность: мультимодальная, рассчитанная на работу на одной мощной серверной видеокарте и с контекстным окном, измеряемым миллионами токенов. Для работы с длинными документами именно это сочетание и есть повод смотреть сюда, а не на хостинговый API.

Maverick — ставка на возможности: мультимодальное понимание изображений и текста с прицелом на высокую пропускную способность и низкую цену, причём собственная оценка Meta помещает инференс примерно в девятнадцать центов за миллион токенов при распределённой раздаче. Эта цифра предполагает, что вы всё правильно организовали на масштабе, и предположение это существенное.

Обе сильны в понимании документов и рассуждении по изображениям и скорее конкурентоспособны, чем доминируют, в программировании. Как всегда, таблицы бенчмарков от производителя показывают то, что производитель захотел измерить: проверяйте на своём материале, прежде чем на это опираться.

Лицензия: вот эту часть прочитайте

Llama выходит под собственной общественной лицензией Meta, а не под Apache, MIT или какой-либо иной стандартной открытой лицензией. Она достаточно разрешительна почти для всех и несёт конкретные условия, которые почти никто не читает.

• Если у вашего продукта на момент выпуска больше 700 миллионов активных пользователей в месяц, вам нужно запросить лицензию у Meta, и Meta может выдать её по собственному усмотрению. Этот пункт существует, чтобы исключить крупнейших конкурентов Meta, и вас он никогда не коснётся — но именно из-за него лицензия не является открытой.
• Вы обязаны заметно показывать надпись «Built with Llama» в любом продукте или интерфейсе, где она используется.
• Любая производная модель, которую вы распространяете, должна иметь название, начинающееся со слова «Llama».
• Вы обязаны прикладывать копию соглашения и уведомление об авторских правах ко всему, что распространяете.
• К тому, что вы с ней делаете, применяется политика допустимого использования Meta — вдобавок к обычному соблюдению законов.
• Производные работы, которые вы создаёте, принадлежат вам; исходные материалы остаются в собственности Meta.

Ничто из этого не мешает обычному бизнесу использовать Llama коммерчески. Но пункты об указании авторства и о названии — договорные обязательства, а не любезности, и компания, которая тихо выпускает дообученную Llama под собственным брендом без упоминания, находится в нарушении. Если это описывает ваш план, либо читайте лицензию как следует, либо берите модель под настоящей открытой лицензией.

Сколько это стоит

Веса бесплатны. Всё остальное — нет.

Запускать большую модель самому — это видеокарты, купленные или арендованные, плюс инженерное время на то, чтобы всё это надёжно раздавалось: батчинг, квантование, мониторинг, обновления. Для маленькой команды честное сравнение звучит не как «бесплатно против двадцати долларов в месяц», а как «зарплата и сервер против счёта за API», и API обычно выигрывает, пока объёмы не станут значительными.

Средний путь и есть то, чем большинство пользуется на деле: Llama, размещённая у кого-то другого. Её раздают все крупные облака и большинство инференс-провайдеров, обычно заметно дешевле закрытых моделей переднего края, потому что конкурируют они на одних и тех же общедоступных весах. Вы получаете выигрыш в цене без операционной нагрузки, но ценой той самой локальности данных, ради которой всё и затевалось.

По-настоящему бесплатен нижний край: компактная Llama на современном ноутбуке, работающая офлайн и не стоящая ничего, кроме места на диске. Для пересказов, черновиков, классификации и приватной работы это настоящий ответ, а не демонстрация.

Кому это даёт больше всего

Всем, чьи данные не могут покидать периметр

Здравоохранение, юриспруденция, оборона, финансы и любая организация, у которой есть регламент, а не предпочтение. Скачиваемые веса превращают «нам нельзя пользоваться ИИ» в инфраструктурный вопрос, и это самое ценное, что делает Llama.

Командам, которые дообучают на своих материалах

Модель, сформированная вашими документами, вашей интонацией и вашей предметной областью, работающая там, где вы решите, и принадлежащая вам. Запросами к закрытому API в то же место не прийти, а производная останется у вас.

Разработчикам локальных и офлайновых продуктов

Приложения, работающие в самолёте, в цеху или в стране с ненадёжной связью. Компактные модели на устройстве делают возможной целую категорию продуктов, которую облачный API попросту не обслужит.

Тем, кто изучает, как работают модели

Их можно разобрать, сломать, проквантовать и посмотреть, что выйдет. Для всех, кто хочет понимать эти системы, а не только ими пользоваться, наличие весов — не удобство, а сама возможность.

На что обратить внимание

• Бесплатно не значит с открытым исходным кодом. Общественная лицензия несёт условия по указанию авторства, названию и порогу пользователей, и они связывают вас договорно.
• llama.com теперь перенаправляет на сайт разработчиков Meta, а новейшие модели компании называются Muse, а не Llama.
• Запуск большой модели у себя — инженерный проект. Лицензия не стоит ничего; видеокарты и человек, который их поддерживает, стоят очень много.
• Лучшие закрытые модели по-прежнему в целом впереди на самых трудных задачах на рассуждение. Выбирайте Llama ради контроля и цены, а не ради побед в бенчмарках.
• Таблицы бенчмарков от производителя измеряют то, что производитель выбрал измерять. Проверяйте на своей задаче.
• Надпись «Built with Llama» обязана быть в вашем продукте. Заложите её в интерфейс заранее, а не обнаруживайте на юридической проверке.
• Размещённая у провайдера Llama даёт выигрыш в цене, но не в приватности: ваши данные всё равно уходят на чужой сервер.
• Поколения моделей сменяются быстро, а дообучения сообщества ещё быстрее. Всё, что вы развернёте сегодня, будет вытеснено; проектируйте с расчётом на замену.

Частые вопросы

Llama бесплатна?

Веса можно бесплатно скачивать и использовать коммерчески по общественной лицензии Meta. Их запуск бесплатным не является — вы платите железом или хостингом, — а лицензия навешивает условия, так что бесплатно не значит без обязательств.

Llama — открытый исходный код?

Нет. Она выходит под проприетарной общественной лицензией с требованиями по указанию авторства, правилом наименования производных и ограничением для продуктов свыше 700 миллионов активных пользователей в месяц. Широко доступна — но не открыта в общепринятом смысле этого слова.

Можно ли использовать её в коммерческом продукте?

Да, если вы остаётесь ниже порога по пользователям, показываете «Built with Llama», начинаете название любой производной модели со слова «Llama», прикладываете лицензию и уведомление об авторских правах ко всему распространяемому и соблюдаете политику допустимого использования.

Что стало с llama.com?

Он перенаправляет на сайт разработчиков Meta. Llama 3 и Llama 4 там по-прежнему задокументированы и доступны для скачивания, но новейшие модели компании называются Muse — включая компактную открытую модель для локальных агентов.

Какое железо нужно?

Целиком зависит от размера. Компактная квантованная модель работает на приличном ноутбуке. Крупные мультимодальные рассчитаны на мощные серверные видеокарты: одна для варианта с упором на эффективность и больше для раздачи на масштабе.

Как это соотносится с запуском GPT или Claude?

Их вы запустить не можете вообще — в этом и состоит сравнение. По возможностям закрытые модели переднего края в целом впереди. По контролю, приватности, цене на объёме и независимости от чужих решений Llama выигрывает по умолчанию, потому что альтернативы в этой категории просто не участвуют.

Итог

Llama изменила то, что возможно для всех, кто не мог или не хотел отправлять свои данные на чужой сервер. Она остаётся отправной точкой по умолчанию для локального и самостоятельно размещённого ИИ, а экосистема, выросшая поверх неё, больше самой модели.

Забрать с собой стоит две вещи. Лицензия не является открытой, а её пункты об указании авторства — реальные обязательства, так что прочитайте её до выпуска. И новейшие работы Meta теперь выходят под именем Muse, поэтому проверьте, какое семейство вы на самом деле выбираете, а не тянитесь к тому, которое помните.